«حمى الذهب» في مجال الذكاء الاصطناعي تساهم في تعميم ظاهرة الاحتيال
أثارت المناقشات الأخيرة حول أداة الفرز الجديدة الخاصة بـ«KYC» من شركة «أنثروبيك» نقاشًا مهمًا في القطاع: مع تزايد توجه شركات الذكاء الاصطناعي نحو سير العمل المتعلق بالهوية وتسجيل العملاء وبناء الثقة، ما هي المسؤولية التي تقع على عاتقها تجاه منظومة الاحتيال التي تساهم تقنياتها في الوقت نفسه في تسريعها؟
هذا السؤال يتجاوز بكثير ما تقوم به أي شركة بمفردها. فكل موجة كبرى من الابتكار التكنولوجي تخلق فرصًا جديدة، كما أنها تخلق نقاط ضعف جديدة.
لقد ربطت وسائل التواصل الاجتماعي العالم ببعضه، لكنها أدت أيضًا إلى انتشار حالات انتحال الهوية والهندسة الاجتماعية على نطاق واسع. وأحدثت الخدمات المصرفية عبر الهاتف المحمول تحولًا في الوصول إلى الخدمات المالية، بينما ساهمت في الوقت نفسه في تسريع وتيرة عمليات الاحتيال المتعلقة بالاستيلاء على الحسابات. كما جعلت التجارة المدمجة المعاملات سلسة، لكنها وسعت نطاق فرص الاحتيال في المدفوعات، وإساءة استخدام الهويات المزيفة، وسرقة بيانات الاعتماد.
والآن، تعمل الذكاء الاصطناعي التوليدي على إعادة تشكيل طبيعة عمليات الاحتيال على نطاق وبسرعة لم نشهدهما من قبل.
المشكلة لا تكمن فقط في أن المحتالين يستخدمون الذكاء الاصطناعي. بل إن المشكلة الأعمق هي أن النظام البيئي الأوسع للذكاء الاصطناعي يعمل، دون قصد، على إتاحة قدرات الاحتيال للجميع.
كما أن الأدوات التي صُممت في الأصل لتعزيز الإنتاجية والإبداع والأتمتة وسهولة الوصول، أصبحت تجعل عمليات الاحتيال المتطورة أسهل بكثير وأرخص وأكثر قابلية للتوسع. فنماذج استنساخ الصوت قادرة على انتحال هوية الأفراد بشكل مقنع في غضون دقائق. ويمكن لأنظمة إنشاء الصور المتاحة للجمهور إنشاء مستندات مزيفة وبيانات اعتماد مزورة. أما تقنيات تبديل الوجوه، التي كانت في السابق محصورة في مختبرات الأبحاث، فقد أصبحت الآن متاحة على نطاق واسع من خلال التطبيقات الاستهلاكية والأدوات مفتوحة المصدر.
أصبح الاحتيال تقنية متاحة للجمهور العريض
تاريخياً، كانت عمليات الاحتيال المعقدة تتطلب التنسيق والمعرفة التقنية وموارد كبيرة. أما اليوم، فقد تلاشت العديد من تلك العوائق.
لم يعد المحتال بحاجة إلى تزوير وثائق الهوية يدويًّا أو إنشاء أدوات مخصصة لانتحال الهوية. بل يمكنه الاستفادة من أنظمة الذكاء الاصطناعي نفسها المتاحة للجمهور، والتي تُستخدم في التطبيقات الاستهلاكية وتطبيقات الشركات الشائعة.
هذه إحدى أهم الحقائق التي لا تزال المنظمات تقلل من شأنها. فالذكاء الاصطناعي لا يقتصر على ابتكار أشكال جديدة من الاحتيال فحسب، بل إنه يعمل على تحويل عملية ابتكار الاحتيال نفسها إلى صناعة.
إن التقنيات نفسها التي تدعم سير العمل الإبداعي والوسائط الاصطناعية ومساعدات الذكاء الاصطناعي تتيح أيضًا أمورًا مثل إنشاء الهويات الاصطناعية، والتزييف العميق (ديب فايك)، وعمليات الاحتيال عبر استنساخ الصوت، وغير ذلك الكثير.
من نواحٍ عديدة، يسير الاحتيال على نفس المسار الذي يسير عليه تطوير البرمجيات نفسه. فما كان يتطلب في الماضي تخصصًا تقنيًّا عميقًا أصبح الآن مجردًا وآليًّا ومتاحًا عبر واجهات بسيطة وواجهات برمجة التطبيقات (API).
الصناعة تزود المحتالين عن غير قصد بـ«دليل الإجراءات»
وفي الوقت نفسه، تواجه صناعة مكافحة الاحتيال حقيقة أخرى مزعجة، وهي أن الرغبة في إبراز الابتكارات قد تؤدي دون قصد إلى كشف استراتيجيات الكشف أمام المهاجمين.
من المفهوم أن ترغب المؤسسات في إظهار التقدم التكنولوجي. وتعلن شركات الذكاء الاصطناعي عن قدرات جديدة في مجال التحقق. وينشر الموردون أمثلة على أنظمة الكشف عن الاحتيال. ويتم إصدار النماذج للجمهور جنبًا إلى جنب مع العروض التقنية وسير العمل. كما تعمل المساعدات التي تعمل بالذكاء الاصطناعي على تبسيط الوصول إلى المعلومات التي كانت في السابق مقصورة على المحتالين والباحثين في مجال الأمن. ويؤدي ذلك إلى ديمقراطية هائلة في هذا النوع من المعلومات، حيث أصبحت أبحاث كانت تستغرق أيامًا أو أسابيع تُختصر الآن إلى ساعات.
وهذا يؤدي إلى خلل خطير في التوازن. فأنظمة الدفاع غالبًا ما تعمل بشفافية حرصًا على الثقة والمصداقية، في حين أن المهاجمين يكررون هجماتهم سرًّا ويتكيفون بسرعة.
والنتيجة هي بيئة يتطور فيها الاحتيال باستمرار، في حين تظل العديد من أنظمة الحماية ثابتة دون تغيير.
يجب أن تصبح استراتيجية الدفاع ضد الاحتيال متعددة المستويات وقابلة للتكيف
لا يوجد نموذج واحد أو مورد واحد أو نظام واحد قادر على مكافحة الاحتيال بمفرده. تتطلب مكافحة الاحتيال الحديثة بشكل متزايد أنظمة متعددة الطبقات قادرة على تقييم إشارات متعددة بشكل مستمر عبر المستندات، والبيانات البيومترية، والأجهزة، والسلوك، وسياق المعاملات، وسلامة الجلسة.
والأهم من ذلك، أن هذه الأنظمة يجب أن تتطور باستمرار لأن الهجمات التي تستهدفها تتطور باستمرار.
وهذا أحد الأسباب التي تجعل المقارنة المعيارية والتقييم المستقل يكتسبان أهمية متزايدة في قطاع الهوية ومكافحة الاحتيال. فالمؤسسات تحتاج إلى رؤية واضحة ليس فقط لما تكتشفه الأنظمة بنجاح اليوم، بل أيضًا لما قد تفشل في اكتشافه غدًا. وتُعد النماذج مثل الإمكانية الجديدة التي طورتها شركة «أنثروبيك» بمثابة «صندوق أسود». فنحن لا نعرف تمامًا ما هي قنوات الاحتيال التي تم اختبارها، وما هي منهجيات الهجوم التي لا تزال خارج نطاق الاختبار، وكيف تم قياس الأداء، أو مدى قدرة هذه الأنظمة على الصمود مع استمرار تطور الذكاء الاصطناعي العدائي.
الخصوصية تكتسب أهمية أكبر من أي وقت مضى في عصر الذكاء الاصطناعي
في الوقت الذي تسارع فيه المؤسسات إلى اعتماد أنظمة مكافحة الاحتيال والتحقق من الهوية المدعومة بالذكاء الاصطناعي، يبرز سؤال مهم آخر: أين تذهب بيانات الهوية الحساسة فعليًّا؟ وهذه مسألة تثار في سياق وكيل «اعرف عميلك» (KYC) الجديد من شركة «أنثروبيك».
تُعد وثائق الهوية والبيانات البيومترية وبيانات الاعتماد الشخصية من بين أكثر المعلومات حساسية التي يمتلكها المستهلكون. ومع ذلك، هل ستشعر مؤسستك بالارتياح عند إرسال تلك البيانات إلى بيئات سحابية تابعة لأطراف ثالثة أو إلى بنية تحتية عامة للذكاء الاصطناعي، في ظل الشفافية المحدودة فيما يتعلق بالاحتفاظ بالبيانات أو الحوكمة أو الاستخدام اللاحق؟
وهذا يثير مخاوف هائلة على المدى الطويل تتعلق بالخصوصية والأمن. وستحتاج المؤسسات بشكل متزايد إلى تحقيق التوازن بين الابتكار في مجال الذكاء الاصطناعي والمخاوف المتزايدة بشأن السيادة والحوكمة والثقة على المدى الطويل.
مستقبل الاحتيال هو الاستمرار
كل هذا يشير إلى تحول أوسع نطاقًا يجري حاليًا، وهو أن الاحتيال لم يعد ظاهرة ثابتة أو منعزلة أو يمكن التنبؤ بها. إنه قابل للتكيف. ومؤتمت. ومدعوم بالذكاء الاصطناعي. ويتطور باستمرار. وهذا يعني أن الدفاع ضد الاحتيال يجب أن يتطور بنفس الطريقة.
المنظمات التي ستنجح في هذه الحقبة المقبلة لن تكون مجرد تلك التي تنشر أكبر نماذج الذكاء الاصطناعي أو تتبنى استراتيجيات الأتمتة الأكثر جرأة. بل ستكون تلك المنظمات القادرة على بناء أنظمة ثقة متعددة المستويات وقابلة للتفسير وتخضع للتقييم المستمر.
لأنه في عصر الذكاء الاصطناعي التوليدي، لم يعد من الممكن أن تعتمد الثقة على الغموض أو الافتراضات أو التحقق لمرة واحدة. بل يجب كسبها باستمرار، واختبارها باستمرار، والدفاع عنها باستمرار.
