الاستعداد لظهور الذكاء الاصطناعي الوكيل في مجال التجارة: الاحتيال والهوية والثقة

يتطور مشهد التجارة الرقمية بوتيرة غير مسبوقة، مدفوعًا ليس فقط بالمستخدمين البشريين، بل وبشكل متزايد بوكلاء الذكاء الاصطناعي الذين يتصرفون نيابة عنهم. خلال الجلسة النقاشية الافتراضية الأولى من سلسلة «Trust Talks» التي استضافتها شركة Microblink، استكشف خبراء القطاع الفرص والتحديات التي تطرحها الوكلاء الآليون المستقلون القادرون على فتح الحسابات وتحويل الأموال واتخاذ القرارات المالية. وكان من بين المشاركين في الجلسة ميليساند موال، المديرة الإدارية في The Paypers؛ وجيانميشيل زابيا، رئيس قسم المخاطر والاحتيال في Getyourguide؛ فاسيليوس كونتياس، مدير المنتجات في XM؛ وهولي ساندبرغ، مديرة قسم الثقة والأمان في Reverb؛ بالإضافة إلى ألبرت رو، نائب الرئيس التنفيذي للمنتجات في Microblink.

ظهور الذكاء الاصطناعي الفاعل

لم تعد الوكالات التي تعمل بالذكاء الاصطناعي مجرد فكرة نظرية. فاليوم، يمكن للمستهلكين تفويض مهام معقدة مثل حجز الرحلات، وإدارة الاشتراكات، أو حتى تنفيذ المعاملات المالية إلى وكالات برمجية مدعومة بتقنيات الذكاء الاصطناعي التي تزداد تطوراً يوماً بعد يوم. وتقوم هذه الوكالات بالتنقل بين مواقع الويب، وملء النماذج، واتخاذ القرارات بناءً على القواعد التي يحددها المستخدم. بالنسبة للمستخدمين الأوائل المتمرسين في مجال التكنولوجيا، توفر هذه الأتمتة الوقت وتقلل من العقبات، لكنها تفتح أيضًا آفاقًا جديدة من المخاطر التي يجب على المؤسسات معالجتها بشكل استباقي.

أكد المشاركون في الندوة أن الذكاء الاصطناعي الفاعل (agentic AI) له أهمية خاصة في قطاعات مثل السفر والتجارة الإلكترونية، حيث يمكن للذكاء الاصطناعي أتمتة عمليات البحث والمقارنة والحجز. ومع ذلك، فإن القدرات نفسها التي تعمل على تبسيط التفاعلات المشروعة تخلق أيضًا فرصًا لإساءة الاستخدام. وتواجه فرق مكافحة الاحتيال الآن بيئة أكثر تعقيدًا: حيث يتعين عليها التمييز بين البشر، والروبوتات الحميدة، وعملاء الذكاء الاصطناعي الذين قد يكونون ضارين. فنماذج الهوية والمخاطر التقليدية، التي بُنيت على أساس السلوك البشري، لم تعد كافية.

الوقاية من الاحتيال في عالم يعتمد على الذكاء الاصطناعي

مع تزايد قدرات وكلاء الذكاء الاصطناعي، تزداد احتمالية حدوث أنشطة احتيالية على نطاق واسع. ويتعين على فرق مكافحة الاحتيال إعادة النظر في استراتيجيات الكشف والوقاية على حد سواء. وأكد المشاركون في الندوة أن تحليل السرعة، ومراقبة السلوك، وتتبع المسار، أمور حاسمة للكشف عن الأنشطة غير العادية. فعلى سبيل المثال، قد يشير الارتفاع المفاجئ في المعاملات الصادرة عن وكيل ذكاء اصطناعي واحد، أو المحاولات المتكررة لتجاوز إجراءات التحقق، إلى وجود إساءة استخدام.

يُعد منع الاحتيال قبل وقوعه أكثر فعالية بكثير من التصدي له بعد وقوعه. يجب على المؤسسات تطبيق أنظمة مراقبة تتابع سلوك الذكاء الاصطناعي في الوقت الفعلي، وتُشير إلى الحالات الشاذة التي قد تشير إلى إساءة استخدام آلية. ويتضمن ذلك دمج التحليلات المتقدمة، والبيومترية السلوكية، ونماذج التعلم الآلي المدربة على التمييز بين أنماط السلوك البشري وأنماط الذكاء الاصطناعي.

التحقق من الهوية للوكلاء المستقلين

كان من بين أهم الموضوعات التي نوقشت كيفية التحقق من هوية وكلاء الذكاء الاصطناعي. وكما يحمل البشر بطاقات الهوية ووثائق الاعتماد، فإن وكلاء الذكاء الاصطناعي يحتاجون إلى هويات رقمية يمكن التحقق منها. وبدون تحديد الهوية بشكل سليم، تتعرض الشركات لخطر التعرض للاحتيال وانتهاكات اللوائح التنظيمية والإضرار بسمعتها.

وأشار الخبراء إلى المعرّفات اللامركزية والتوقيعات الرقمية باعتبارها حلولاً ناشئة. تتيح هذه الأدوات للوكلاء إثبات هويتهم بطريقة قابلة للتحقق ومحصنة ضد التلاعب، مع ربطهم في الوقت نفسه بمالك بشري أو مؤسسي. وتُعد هذه المساءلة أمرًا بالغ الأهمية، لا سيما في القطاعات الخاضعة للتنظيم مثل القطاع المالي وقطاع السفر. يمكن تنفيذ عملية التحقق من هوية الوكلاء تقنيًّا في غضون أشهر، لكن مواءمة الأطر القانونية والتنظيمية ستستغرق وقتًا أطول.

القياس عن بُعد للسلوك كإشارة على وجود احتيال

تعد مراقبة سلوك الذكاء الاصطناعي طبقة دفاعية حيوية أخرى. ناقش المشاركون في الندوة استخدام القياس السلوكي عن بُعد لتتبع تفاعلات العوامل عبر المنصات الرقمية. ومن خلال تحليل أنماط التنقل واتخاذ القرارات وتنفيذ المعاملات، يمكن للمؤسسات الكشف عن أي إساءة استخدام أو انحراف في النموذج، وهو ما يُقصد به انحراف سلوك الذكاء الاصطناعي عن التصميم المقصود.

يمكن أن تساعد القياسات الحيوية السلوكية، التي تقيس أنماط التفاعل الفريدة، في التمييز بين المستخدمين البشريين، والأتمتة الحميدة، وعوامل الذكاء الاصطناعي التي قد تكون خبيثة. ولا يقتصر هذا النهج على اكتشاف الاحتيال فحسب، بل يتعلق أيضًا بالحفاظ على الثقة في النظام البيئي. يجب أن تكون المؤسسات قادرة على تقييم النوايا، وفرض الامتثال للسلوكيات المسموح بها، والتصرف بسرعة عند ظهور أي حالات شاذة.

الثقة كأساس للتجارة

وراء كل هذه الاعتبارات التقنية يكمن تحول فلسفي أوسع نطاقًا: حيث تصبح الثقة العملة السائدة في التجارة الرقمية. فعندما تعمل العوامل المستقلة نيابةً عن البشر، لم يعد بإمكان الشركات الاعتماد حصريًّا على التحقق البشري. بل يتعين عليها تنفيذ «سلسلة ثقة» تمتد من المالك البشري، مرورًا بالعامل الذكي، وصولاً إلى المعاملة نفسها.

أكد المتحدثون أن الثقة ليست مفهومًا ثابتًا، بل تتطلب التحقق والإشراف المستمرين. ويجب على المؤسسات إنشاء أنظمة رصد قوية وبروتوكولات تحقق وهياكل للمساءلة من أجل الحفاظ على الثقة في منصاتها. وبشكل أساسي، تتضافر الهوية والتحقق وتتبع السلوك لتشكل أساسًا للثقة يدعم كل معاملة يشارك فيها وكيل يعمل بالذكاء الاصطناعي.

التحضير للمستقبل

إن ظهور الذكاء الاصطناعي الفاعل أمر لا مفر منه. وستكتسب الشركات التي تتصرف بشكل استباقي لفهم المخاطر المرتبطة بذلك والتخفيف من حدتها ميزة تنافسية، في حين أن الشركات التي تتجاهل هذا التحول قد تواجه صعوبات تشغيلية وتنظيمية. ويتطلب الاستعداد لهذا المستقبل اتباع نهج متعدد المستويات:

• تطبيق هويات قابلة للتحقق للوكلاء لضمان المساءلة.
• مراقبة سلوك الذكاء الاصطناعي في الوقت الفعلي للكشف عن الحالات الشاذة ومنع إساءة الاستخدام.
• تطبيق تحليلات السلوك والبيانات البيومترية للتمييز بين البشر وعوامل الذكاء الاصطناعي.
• وضع أطر عمل قوية لمنع الاحتيال تتوقع حدوث إساءة استخدام آلية واسعة النطاق.
• تعزيز ثقافة الثقة التي تجمع بين التكنولوجيا والسياسات والرقابة.

مع تزايد انتشار وكلاء الذكاء الاصطناعي، لن تقتصر هذه الإجراءات على حماية المؤسسات فحسب، بل ستحدد معايير الثقة في الاقتصاد الرقمي. لمزيد من المعلومات حول الجلسات النقاشية الأخرى في سلسلة «Trust Talks»، سجل اليوم.