لماذا يُعد كل من المقارنة المعيارية والقدرة على التفسير أمرين بالغين الأهمية في عملية التحقق من الهوية

تناولت مدونة حديثة للرئيس التنفيذي لشركة Microblink، هارتلي طومسون، الكيفية التي يغير بها الذكاء الاصطناعي التوليدي (Gen AI) بشكل جذري اقتصاديات الاحتيال، من خلال جعل الهجمات المتطورة أرخص وأسرع وأكثر قابلية للتوسع بشكل كبير. ومن نواحٍ عديدة، تُستخدم التطورات التي تحققت في مجال الذكاء الاصطناعي التوليدي لمكافحة الاحتيال أيضًا في شن هجمات أكثر تطورًا على نطاق واسع. في مجال الاحتيال، الحجم هو كل شيء: حتى الهجمات ذات معدل النجاح المنخفض والعائد المالي الضئيل تصبح مربحة عندما يمكن أتمتتها على نطاق واسع.

ولهذا السبب، نقوم في «Microblink Fraud Lab» باختبار تقنيات الاحتيال الناشئة باستمرار، والتي تتراوح بين تدفقات الفيديو المُحقنة وتبديل الوجوه وصولاً إلى المستندات التي يُنشئها الذكاء الاصطناعي وعمليات التسجيل الاصطناعية. وما يلفت الانتباه ليس فقط مدى واقعية هذه الهجمات، بل مدى سهولة الوصول إليها. فالكثير من الأدوات نفسها التي تُستخدم في مجال الترفيه، وإنشاء المحتوى، وتجارب الذكاء الاصطناعي للمستهلكين، يمكن الآن إعادة توظيفها لأغراض الاحتيال دون الحاجة إلى معرفة تقنية كبيرة. لم يعد الاحتيال يقتصر على أن يصبح أكثر تعقيدًا فحسب، بل أصبح من الأسهل تنفيذه، وتوسيع نطاقه، وأتمتته.

أصبح الاحتيال متعدد الوسائط

يتمثل أحد التحولات الرئيسية في أن عمليات الاحتيال لم تعد تقتصر على وسيلة هجوم واحدة. تجمع الهجمات الحديثة بشكل متزايد بين تقنيات متعددة في وقت واحد تشمل المستندات، والبيانات البيومترية، والأجهزة، والتلاعب السلوكي ضمن العملية نفسها. فقد يقوم المحتال بإنشاء وثيقة هوية مزيفة، وإدخال سلسلة من صور السيلفي التي تم إنشاؤها بواسطة الذكاء الاصطناعي في عملية التحقق، وتزوير إشارات الجهاز، وأتمتة أجزاء من سلسلة الهجوم في وقت واحد. بعبارة أخرى، أصبح الاحتيال متعدد الوسائط.

وهذا أمر مهم لأن العديد من أنظمة التحقق من الهوية صُممت في الأصل لتقييم إشارات منفصلة في مراحل محددة من رحلة المستخدم. يتم فحص المستندات عند التسجيل. ويتم إجراء الفحص البيومتري أثناء المصادقة. ويتم تقييم إشارة الجهاز أثناء تسجيل الدخول. لكن الهجمات الحديثة تعمل بشكل متزايد على طمس هذه الحدود. حيث يقوم المحتالون بدمج الوسائط التي تم إنشاؤها بواسطة الذكاء الاصطناعي، والأتمتة، ومحاكاة السلوك، وتقنيات انتحال الهوية في تدفقات هجمات متعددة الطبقات مصممة لاستغلال الثغرات بين الأنظمة بدلاً من التركيز على نقطة فشل واحدة.

تم تصميم نماذج التحقق التقليدية لعصر مختلف

لا تزال العديد من أنظمة تحديد الهوية الحالية تعمل بناءً على افتراضات أصبحت عفا عليها الزمن بشكل متزايد. ففي الماضي، كان تزوير الوثائق يتطلب مهارات متخصصة للغاية، وكان من الصعب تزوير البيانات البيومترية، وكان المهاجمون في الغالب من البشر، وكان تسجيل المستخدمين الجدد يمثل نقطة الخطر الرئيسية. لكن الذكاء الاصطناعي التوليدي يعمل بسرعة على تفنيد تلك الافتراضات.

لم يعد التحدي يقتصر على مجرد تحديد ما إذا كانت الوثيقة تبدو أصلية أو ما إذا كان الوجه يطابق صورة بطاقة الهوية. فقد أصبحت المؤسسات الآن بحاجة إلى تحديد ما إذا كانت الصورة نفسها قد تم إنشاؤها اصطناعيًا، وما إذا كانت جلسة التحقق تستخدم بثًا مباشرًا من الكاميرا أم بثًا مزيفًا، وما إذا كان الصوت قد تم استنساخه، وما إذا كانت أنماط السلوك آلية، وما إذا كانت الهوية الموثوقة تظل جديرة بالثقة بمرور الوقت. ويتطلب ذلك أنظمة متعددة الطبقات قادرة على تقييم إشارات متعددة بشكل مستمر بدلاً من الاعتماد على أحداث تحقق منفصلة.

أصبحت المقارنة المعيارية أكثر أهمية من أي وقت مضى

كل هذا هو السبب في أن المقارنة المعيارية والتقييم المستقل أصبحا ذا أهمية حاسمة في قطاع إدارة الهوية. تعد الغموضية أحد أكبر مصادر القلق فيما يتعلق بالعديد من أنظمة الثقة الناشئة التي تعتمد على الذكاء الاصطناعي. يُطلب من المؤسسات بشكل متزايد الوثوق بنماذج "الصندوق الأسود" دون رؤية واضحة لما تم اختباره من نواقل الهجوم، أو كيفية تقييم الأنظمة، أو السيناريوهات التي تظل خارج نطاق الاختبار، أو كيفية تصرف النماذج تحت الضغط العدائي، أو كيف تتغير الموثوقية بمرور الوقت. وعلى عكس العديد من مجالات التعلم الآلي التقليدية، يعمل الكشف عن الاحتيال في بيئة عدائية تتغير باستمرار، حيث تُعد السيناريوهات خارج نطاق التوزيع هي القاعدة وليس الاستثناء.

وهذا يشكل خطرًا تشغيليًا حقيقيًّا. غالبًا ما تُظهر أنظمة الذكاء الاصطناعي أداءً مذهلاً في العروض التجريبية الخاضعة للرقابة، بينما تتصرف بشكل مختلف تمامًا في بيئات الاحتيال الواقعية، حيث يتكيف المهاجمون باستمرار ويستكشفون نقاط الضعف ويكررون هجماتهم للتغلب على الدفاعات. لذلك، يتعين على أنظمة التحقق من الهوية أن تتطور باستمرار أيضًا. ولهذا السبب، أصبحت الاختبارات التنافسية، والتقييم القابل للتكرار، والمقارنة المعيارية المستقلة، أجزاءً أساسية من الدفاع الحديث ضد الاحتيال. ويتعين على المؤسسات أن تفهم ليس فقط المجالات التي تنجح فيها الأنظمة، بل أيضًا المجالات التي تفشل فيها، لأن المهاجمين سيكتشفون تلك الثغرات بأنفسهم حتمًا.

هناك تحدٍّ رئيسي آخر يبرز جنبًا إلى جنب مع اعتماد الذكاء الاصطناعي، ألا وهو قابلية التفسير. فمع قيام المؤسسات بدمج أنظمة الذكاء الاصطناعي الأكبر حجمًا في سير عمل إدارة الهوية ومكافحة الاحتيال، تزداد مخاطر أن تصبح قرارات مكافحة الاحتيال غير شفافة بشكل متزايد. وفي القطاعات الخاضعة للتنظيم، مثل الخدمات المالية والرعاية الصحية والأسواق والتجارة الرقمية، لا تُعد قابلية التفسير أمرًا اختياريًّا.

تزداد حاجة المؤسسات إلى فهم أسباب نجاح أو فشل عملية التحقق، والإشارات التي ساهمت في ظهور المخاطر، والتغيرات التي طرأت بين القرارات، وكيفية تقييم الصلاحيات أو الثقة في لحظة معينة. وتزداد أهمية ذلك أكثر مع بدء وكلاء الذكاء الاصطناعي والأنظمة الآلية في التفاعل مباشرةً مع البنية التحتية المالية وبنية الهوية. وبدون قابلية التفسير وقابلية التدقيق، تفقد المؤسسات تدريجيًا قدرتها على فهم الثقة نفسها.

مستقبل مكافحة الاحتيال هو عملية مستمرة

التحول الأوسع نطاقًا الذي نشهده حاليًا هو أن الاحتيال لم يعد ظاهرة ثابتة. فهو قابل للتكيف، وآلي، ومدعوم بالذكاء الاصطناعي، ويتطور باستمرار. لذا يجب أن تتطور الأنظمة الدفاعية بنفس الطريقة.

لن يكون هناك نموذج أو تقنية واحدة قادرة على حل هذه المشكلة بمفردها. تتطلب الدفاعات الحديثة ضد الاحتيال بشكل متزايد استخبارات هوية متعددة الطبقات تشمل التحقق من الوثائق، والبيانات البيومترية، وكشف الحيوية، واستخبارات الأجهزة، وتحليل السلوك، وتقييم المخاطر السياقية، والمراقبة المستمرة. والأهم من ذلك، يجب أن تتكيف هذه الأنظمة باستمرار مع تطور أساليب الهجوم، لأن مشهد الاحتيال لم يعد يتغير بوتيرة بشرية. فالذكاء الاصطناعي يعمل على تسريع وتيرة الهجمات وزيادة نطاقها وأتمتتها.

في Microblink، يُعد هذا أحد الأسباب التي دفعتنا إلى إطلاق تحدي FREUID: لإشراك مجتمع الباحثين في معالجة مشكلات واقعية تتعلق بالكشف عن حالات الاحتيال خارج نطاق التوزيع، في ظل ظروف تنافسية.
إذا كنت ترغب في التحدث أكثر عن قدرات Microblink في الكشف عن حالات الاحتيال المرتبطة بالذكاء الاصطناعي من الجيل الجديد، فاتصل بنا اليوم.