عندما تتصرف العناصر الذكية الاصطناعية (وربما تهاجم)

في الآونة الأخيرة، بدأ نوع جديد من القلق يظهر في أوساط التكنولوجيا. لا يتعلق الأمر بانتهاكات الأمن أو انقطاعات الخدمة، بل بالقدرة على التصرف بشكل مستقل. نقرأ أخبارًا عن وكلاء الذكاء الاصطناعي الذين يتواصلون مع بعضهم البعض على منصات مثل «مولتبوك». وكلاء ينشرون محتوى. وكلاء ينسقون بين بعضهم. وكلاء يطورون سلوكيات لا يستطيع البشر ملاحظتها بسهولة. 

لقد أصبحت وكالات الذكاء الاصطناعي حقيقة واقعة، وبدأت في اتخاذ الإجراءات والتفاعل مع الوكالات الأخرى والعمل بشكل مستمر عبر الأنظمة المختلفة. وفي كثير من الحالات، تعمل هذه الوكالات بنفس الصلاحيات ومستوى الثقة الممنوحين للبشر الذين قاموا بنشرها.

يُحدث هذا التحول تغييرًا جذريًّا في مشكلة الهوية. فعندما يصبح البرنامج قادرًا على التصرف، لا تقتصر الهوية بعد الآن على المصادقة فحسب. بل تصبح مسألة تتعلق بمن أو ما الذي يتصرف، وبأي صلاحية، وتحت أي قيود.

عندما يغادر العملاء المختبر

ما يميز هذه المرحلة ليس أداة معينة، بل النمط الذي يظهر عبر العديد من هذه الأدوات. فالأنظمة مفتوحة المصدر وأنظمة الوكلاء شبه المستقلة، مثل OpenClaw، تنتقل بسرعة من مرحلة التجريب إلى بيئات العمل الفعلية. هذه الأدوات قادرة على الوصول إلى الملفات ومنصات المراسلة وأجهزة الطرفية والخدمات السحابية، ثم العمل بناءً على ذلك الوصول دون توجيه بشري مستمر. ولا يتم اعتمادها من خلال دورات الشراء الرسمية، بل يتم ذلك بهدوء من قبل الأفراد والفرق التي تبحث عن السرعة والفعالية.

وفي الوقت نفسه، نشهد ظهور أنظمة بيئية تعتمد على الوكلاء بشكل أصلي، مثل «مولتبوك»، حيث يتفاعل وكلاء الذكاء الاصطناعي مع وكلاء آخرين بشكل مباشر، ويتبادلون المعلومات، ويحسّنون سلوكهم دون تدخل بشري في العملية. سواء تم تصويرها على أنها ابتكار جديد أو تجربة تجريبية، فإن هذه البيئات تشير إلى مستقبل لا تكون فيه الوكالات أدوات معزولة، بل مشاركين في أنظمة رقمية أوسع نطاقاً. فهي لا تكتفي بالاستجابة فحسب، بل تقوم بالتنسيق أيضاً.

لا يكمن الخطر في أن تكون هذه العناصر خبيثة عن قصد. بل يكمن الخطر في أنها تعمل مستفيدةً من الثقة الممنوحة لها داخل أنظمة لم تُصمم أبدًا للتعرف عليها كجهات فاعلة. فهي ترث بيانات الاعتماد، وتعيد استخدام الجلسات، وتندمج في السجلات كسلوك متوقع. من الخارج، يبدو كل شيء طبيعيًا. أما من الداخل، فتُتخذ القرارات من قبل كيانات لا تستطيع أنظمة الهوية التقليدية رؤيتها أو فهمها بشكل كامل.

في العديد من المؤسسات، تظهر هذه العناصر كأنشطة في الخلفية. فهي ترث بيانات الاعتماد، وتعيد استخدام الجلسات، وتختلط مع السجلات باعتبارها سلوكًا «طبيعيًا». الفاعل موجود، لكنه غير مرئي.

عندما يتفاعل الوكلاء مع وكلاء آخرين

ويزداد التحدي تعقيدًا عندما يبدأ الوكلاء في التفاعل مع وكلاء آخرين.

ومع قيام أنظمة الذكاء الاصطناعي بالتنسيق وتبادل الإشارات وتحسين سير العمل دون تدخل بشري مباشر، تتضاءل الرؤية بشكل أكبر. فالمقررات تُتخذ بسرعة تفوق قدرة البشر على مراجعتها، وتنتشر الإجراءات عبر الأنظمة قبل أن تُفهم النية تمامًا.

في هذه المرحلة، تواجه إجراءات التحقق من الهوية التقليدية صعوبات، ليس لأنها معطلة، بل لأنها لم تُصمم أبدًا لتعامل مع كيانات مستقلة غير بشرية تعمل بشكل مستمر.

قد تكون فرق الأمن على علم ببيانات الاعتماد التي تم استخدامها. لكنها قد لا تعرف ما يلي:

• أي ممثل هو الذي بدأ هذا السلوك
  
• ما إذا كان ذلك الفاعل مخولًا بالتصرف في ذلك السياق
  
• أو ما إذا كان هذا السلوك يتوافق مع السياسة والمخاطر
  المقبولة

لماذا لا يكفي الرقابة وحدها

تستجيب بعض المنظمات إلى ذلك من خلال فرض طبقات من الرصد والرقابة على سلوك الوكلاء. وهذه خطوة ضرورية، لكنها ليست كافية بحد ذاتها.

تكون المراقبة التي تفتقر إلى سياق الهوية تفاعلية. فهي قادرة على اكتشاف الحالات الشاذة بعد حدوثها، لكنها لا تستطيع التحكم في السلوك بشكل موثوق في الوقت الفعلي. وبدون فهم هوية الفاعل أو طبيعة الفعل، تفتقر أنظمة الرقابة إلى الصلاحية اللازمة لمنع إساءة الاستخدام قبل وقوع أثرها.

إن المراقبة الفعالة تتطلب أكثر من مجرد مراقبة العملاء؛ فهي تتطلب التعرف عليهم.

لماذا يُغير برنامج «تعرف على ممثلك» النموذج السائد

وهنا تبرز أهمية مبادرة «اعرف الفاعل» (KYA). فهذه المبادرة تحول عملية التحقق من الهوية من حدث تحقق يتم في لحظة معينة إلى نظام مراقبة مستمر مصمم لبيئات لا يكون فيها كل فاعل بشريًا، ولا يتم فيها كل إجراء عن قصد. تتضمن الأنظمة الرقمية الحديثة الآن الروبوتات، ووكلاء الذكاء الاصطناعي المستقلين، وسير العمل الهجين بين البشر والوكلاء، والتي تعمل بشكل مستمر وبسرعة الآلة. ولم يعد كافياً التعامل مع جميع هذه الجهات الفاعلة كما لو كانت مستخدمين قابلين للتبديل.

في هذا العالم، لا يمكن اختزال الهوية في مجرد وثيقة اعتماد أو عملية تسجيل دخول ناجحة. فمعرفة هوية الشخص الذي تم المصادقة عليه لا توفر سوى القليل جدًّا من المعلومات حول من أو ما الذي يقوم بالفعل بالتصرف في أي لحظة معينة. يتطلب التحكم الفعال في الهوية فهم الدور والصلاحيات الممنوحة للفاعل، وكيف يتغير سلوكه بمرور الوقت، وما إذا كانت أفعاله تظل متسقة مع السياسة والمخاطر المقبولة مع تطور الظروف. فالسياق لا يقل أهمية عن المصادقة، خاصةً عندما تنتشر الإجراءات تلقائيًا عبر الأنظمة.

تتعامل تقنية «اعرف الممثل» (Know Your Actor) مع الهوية باعتبارها بنية تحتية حية، وليس بوابة ثابتة عند المدخل الرئيسي. يتم تقييم الهوية بشكل مستمر، ليس فقط في لحظة الدخول، بل طوال فترة التفاعل مع تغير السلوك والنية والبيئة المحيطة. يوفر هذا النهج الرؤية قبل التنفيذ والسياق قبل اتخاذ القرارات، مما يتيح للمؤسسات إدارة الأنشطة في الوقت الفعلي بدلاً من الاكتفاء بالرد بعد وقوع الحدث.

في عالم قائم على الفاعلية، يصبح هذا التمييز أمراً بالغ الأهمية. فلم يعد كافياً الافتراض بأن الثقة قائمة لمجرد أن الوثيقة التوثيقية صالحة. إن إدارة الثقة بشكل فعال استناداً إلى هوية الفاعل، وكيفية تصرفه، وما هو مخول له القيام به، هو ما يتيح للمؤسسات توسيع نطاق الأتمتة دون فقدان السيطرة.

القيادة في بيئة تتسم بفعالية الفاعلين

لا يدعو ظهور العوامل المستقلة إلى القلق. بل يتطلب المسؤولية.

يجب على القادة أن يدركوا أن الأنظمة التي صُممت للتفاعل بين البشر فقط لم تعد كافية. والتظاهر بخلاف ذلك يؤدي إلى ظهور نقاط عمياء تتوسع بسرعة تفوق قدرة الفرق على الاستجابة.

السؤال الحقيقي ليس ما إذا كانت العوامل التي تعمل بالذكاء الاصطناعي ستتواجد داخل المؤسسات. فهذا الأمر يحدث بالفعل. بل السؤال هو ما إذا كانت المؤسسات ستصمم أنظمة هوية وتحكم قادرة على رصد وفهم وإدارة كل عنصر فاعل في حركة مستمرة.

لا تهدف مبادرة «اعرف ممثلك» إلى إعاقة الابتكار، بل تهدف إلى جعل الابتكار مستدامًا. فهي تضمن ألا تختفي المساءلة مع توسع الوكالة.

في عالم أصبحت فيه البرمجيات قادرة على اتخاذ الإجراءات، تعني القيادة التصميم بهدف تحقيق الوضوح والتحكم والثقة قبل أن تتخذ الأنظمة القرارات نيابة عنا.