معرفة من — أو ماذا — نتحدث إليه في عصر الذكاء الاصطناعي المستقل
تجاوز عدد مستخدمي «مولتبوك» (Moltbook)، المنصة الاجتماعية المصممة على غرار «ريديت» (Reddit) لتتيح مشاركة العوامل الذكية، بالفعل 1.5 مليون مستخدم. ويراقب البشر ما يحدث بفضول وقلق.
لم تعد أنظمة الذكاء الاصطناعي مجرد أدوات تستجيب للتعليمات. فهي تبادر إلى اتخاذ الإجراءات، وتتفاعل مع الأنظمة الأخرى، وتكيّف سلوكها بقدر متزايد من الاستقلالية. وبعضها يقيم علاقات تجارية فيما بينها، تمامًا كما يفعل البشر. ويأتي هذا التحول حاملاً معه إمكانيات استثنائية وسؤالًا ملحًّا بدأنا جميعًا نطرحه:
كيف لنا أن نعرف مع من، أو مع ماذا، نتفاعل فعليًّا؟
لا يتعلق الأمر هنا بالخوف من الذكاء الاصطناعي. فالاستقلالية ليست خطيرة بطبيعتها. ففي كثير من الحالات، هي بالضبط ما يتيح تحقيق الكفاءة والتوسع وأشكالًا جديدة تمامًا من القيمة. لكن الاستقلالية تغير طبيعة الثقة. فعندما تصبح الأنظمة قادرة على التصرف بشكل مستقل، لا يمكن بعد ذلك افتراض الثقة استنادًا إلى لحظة تحقق واحدة أو هوية ثابتة.
على مدى عقود، كانت الهوية الرقمية تقوم على حضور الشخص وإثبات هويته، ثم المضي قدمًا في مهمته. ولا يزال هذا النموذج مهمًا، لكنه لم يعد يعكس الواقع. فاليوم، يتعايش البشر والروبوتات والوكلاء المدعومون بالذكاء الاصطناعي ضمن نفس البيئات الرقمية. وأحيانًا يتعاونون. وأحيانًا ينتحلون هويات بعضهم البعض. وأحيانًا يندمجون معًا بطرق يصعب التمييز بينها.
لا يكمن الخطر في وجود الذكاء الاصطناعي بحد ذاته. بل يكمن الخطر في الغموض. فالأنظمة غير قادرة على التمييز بين الأتمتة المشروعة وإساءة الاستخدام، وبين النية والتقليد. وهذا الغموض هو بالضبط ما يتيح للاحتيال أن يزدهر.
ما ألاحظه هو تحول آخذ في الظهور في الطريقة التي تنظر بها الفرق إلى مفهوم الهوية. فقد أصبح التركيز أقل على الهوية باعتبارها سمة ثابتة، وأصبح التركيز أكبر على الفاعلين. كيف نحدد من أو ما الذي يقوم بالفعل في لحظة معينة؟ وكيف يتغير السلوك بمرور الوقت، ومتى ينبغي إعادة تقييم الثقة؟
تشير «مايكروبلينك» إلى هذه العقلية بعبارة «اعرف الفاعل». ولا يُقصد بها أن تكون بديلاً عن التحقق من الهوية، بل تطوراً له. فالتحقق من الهوية يخبرك بمن يدعي الشخص أنه هو. أما فهم «الفاعل» فيخبرك بكيفية عمل الثقة في الوقت الفعلي، لا سيما عندما يتعلق الأمر بالاستقلالية.
لا يكمن السبيل إلى الأمام في تقييد الأنظمة أو التشكيك في الأتمتة بشكل تلقائي. بل يكمن في تصميم قواعد تفاعل مشتركة على الصعيدين التقني والأخلاقي والتعاوني، بحيث يتمكن البشر والذكاء الاصطناعي من العمل معًا دون إحداث ثغرات يستغلها الجهات الخبيثة.
ينبغي على المهندسين والمشغلين وصانعي السياسات وخبراء التكنولوجيا أن يتعاملوا بصراحة مع حالة عدم اليقين، حتى تتوطد الثقة من خلال الوضوح الجماعي. ويعمل مختبر مكافحة الاحتيال التابع لشركة «مايكروبلينك» على مواجهة هذا التحدي يوميًا. ونحن نتعلم ونتطور باستمرار لمواكبة الطريقة التي يستخدم بها البشر والروبوتات هذه التكنولوجيا الجديدة المتطورة لتقليد الهوية بسرعة.
لن يطلب منا المستقبل أن نختار بين البشر والذكاء الاصطناعي. بل سيطلب منا أن نفهم كليهما وأن نعرف مع من نتحدث حقًّا.
