كيف تجبر تقنية «ديب فايك» القائمة على الذكاء الاصطناعي على إعادة النظر في معايير التحقق من الهوية
إن الارتفاع السريع في حالات الاحتيال باستخدام الهويات المزيفة المدعومة بالذكاء الاصطناعي يجعل هذه المهمة الصعبة أكثر صعوبة. ففرق مكافحة الاحتيال تضطر بالفعل إلى التعامل مع كشف ووقف الهجمات شبه المستمرة، مع الحرص في الوقت نفسه على ألا تكون أنظمة الكشف مضبوطة بشكل صارم لدرجة أنها ترفض العملاء الجيدين.
والآن، مع ظهور الذكاء الاصطناعي التوليدي، أصبح بإمكان المحتالين إنشاء نسخ مطابقة تقريبًا لوثائق الهوية، مما يتسبب في صعوبات أكبر للشركات وفرق مكافحة الاحتيال وتجربة العملاء التابعة لها. ولهذا السبب كان الأمر مثيراً عندما نشرت مجموعة من الباحثين، بدعم من وزارة الأمن الداخلي الأمريكية، في أواخر العام الماضي مجموعة بيانات تُدعى IDNet، والتي تمثل أول مجموعة بيانات واسعة النطاق (تتألف من أكثر من 800,000 صورة) للوثائق المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي. وهذا يعني أنه أصبح بإمكان أي شخص الآن اختبار حلول التحقق من الوثائق الخاصة به من خلال تقييم مدى قدرتها على كشف هذه الوثائق المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
في Microblink، هذا بالضبط ما قمنا به. وقد شاركنا النتائج في ندوة عبر الإنترنت يمكنكم الوصول إليها من هنا، وفيما يلي أهم 5 نقاط مستفادة من تلك المناقشة.
قوة الدفاعات المتعددة الطبقات
في عالم مثالي، يتم حظر كل بطاقة هوية مزورة، بينما يمر كل عميل شرعي بسلاسة. لكن في العالم الواقعي، لا يوجد ما يُسمى بالكشف المثالي عن الاحتيال. لماذا؟ لأن المحتالين يتطورون باستمرار، وغالبًا ما لا يتصرف المستخدمون الشرعيون بطرق يمكن التنبؤ بها تمامًا. لهذا السبب من المهم التركيز على الدفاع متعدد الطبقات. فإذا تمكنت بطاقة هوية مزورة من اجتياز مرحلة التحقق من الوثائق، فقد يتم الكشف عنها لاحقًا؛ ربما أثناء مطابقة الوجه، أو الكشف عن الحيوية، أو التحقق من صحة العنوان.
ما يهم ليس ما إذا تم الكشف عن بطاقة هوية مزورة في المرحلة الأولى، بل أن يكون نظامك ذكيًا ومرنًا بما يكفي للكشف عن الاحتيال في مرحلة ما من العملية دون منع المستخدمين الشرعيين من المرور. فالشركات التي تتبنى هذا النوع من النهج الشامل القائم على المخاطر تتجنب الوقوع في فخ «الإفراط في تكييف» دفاعاتها وفقدان العملاء الحقيقيين.
نسبة إعادة التوظيف (FRR) ونسبة التوظيف (FAR): تحقيق التوازن الصحيح
اكتشف نموذج Microblink للكشف عن تزوير الوثائق 100% من بطاقات الهوية المزيفة المصطنعة الموجودة في مجموعة بيانات IDNet. ومع ذلك، تجدر الإشارة إلى أن أي شخص يمكنه تحقيق هذا إذا قام بضبط إعدادات المخاطر على المستوى الأكثر صرامة. عندئذٍ ستتمكن من منع جميع حالات الاحتيال، لكنك ستمنع أيضًا جميع العملاء الجيدين! ولهذا السبب استخدمت Microblink إعداداتنا الافتراضية عند إجراء الاختبار على مجموعة بيانات IDNet.
يقيس معدل القبول الخاطئ (FAR) عدد المرات التي يقبل فيها النظام خطأً مستندًا مزورًا على أنه شرعي. خلال الاختبار الذي أجريناه على مجموعة بيانات IDNET، لم يتم تصنيف أي صورة على أنها «مقبولة»، مما يعني أن معدل القبول الخاطئ (FAR) كان 0% عبر مجموعة البيانات التي خضعت للاختبار. وعلى الطرف المقابل، يوجد معدل الرفض الخاطئ (FRR). ونظرًا لعدم وجود مستندات «حقيقية» في مجموعة البيانات، فإن حساب معدل الرفض الخاطئ الفعلي من بيانات IDNet غير ممكن. ومع ذلك، فقد أدرجنا في تقييمنا معدل FRR المتوقع لنظامنا وفقًا لإعدادات الحساسية الافتراضية المستخدمة – ولاحظنا أن متوسط معدل FRR بلغ 2.33%. وتجدر الإشارة أيضًا إلى أن Microblink لم تستخدم البيانات الأولية لـ IDNet لتدريب النموذج، مما يعني أن العملية كانت خالية من التحيز بنسبة 100% ومبنية على الأداء البحت.
أهمية ضبط مستويات المخاطر بدقة
تدخل العديد من المؤسسات مجال التحقق من الهوية بتوقعات طموحة: القضاء التام على الاحتيال، والقضاء التام على حالات الرفض الخاطئة، وتوفير تجربة خالية من العيوب لكل مستخدم. لكن التنفيذ الفعلي في الواقع يكشف سريعًا عن مدى تعقيد تحقيق هذا التوازن. وعادةً ما يمثل الاحتيال جزءًا صغيرًا فقط من إجمالي المعاملات — غالبًا ما يكون في حدود رقم واحد — ويمكن أن يختلف المستوى المقبول من المخاطر بشكل كبير اعتمادًا على القطاع أو حالة الاستخدام المحددة.
ولهذا السبب، فإن ضبط أنظمة التحقق أمر بالغ الأهمية. يجب على الشركات ضبط عتبات الكشف عن الاحتيال بما يتناسب مع درجة تحملها للمخاطر وأهدافها التشغيلية. وغالبًا ما تكون الأولوية لخفض معدل الرفض الخاطئ (FRR) على حساب الكشف عن كل حالات الاحتيال الحدية، خاصةً عندما توفر طبقات أخرى في عملية التسجيل أو تدفق المعاملات حماية إضافية. تساعد اختبارات A/B والتجارب التجريبية والمراقبة المستمرة الفرق على تحقيق التوازن الصحيح بين الأمان وتجربة المستخدم، مما يؤكد أن التحقق من الهوية ليس عملية ثابتة. إنها عملية تحسين مستمر.
تتطور ظاهرة الاحتيال بوتيرة سريعة
يتطور مشهد الاحتيال بسرعة فائقة، وقد يصعب على الشركات مواكبة هذا التطور. ومع ظهور أدوات الذكاء الاصطناعي التوليدي، أصبح من الأسهل الآن أكثر من أي وقت مضى على الجهات الخبيثة إنشاء هويات ووثائق ووجوه مزيفة تبدو حقيقية بشكل مقلق. لم نعد نتحدث عن حالات منفردة فحسب — بل أصبح الأمر احتيالاً آلياً على الهوية على نطاق صناعي.
وللمواكبة، تعمل «مايكروبلينك» على التطور المستمر. وهذا يعني تدريب نماذجنا على بيانات حديثة ومتنوعة. كما يعني توسيع قدرتنا على كشف أنواع جديدة من الاحتيال — مثل الوجوه التي تولدها شبكات GAN، وتغيير ملامح الهوية، والصور المزيفة فائقة الدقة. كما يعني ذلك إنشاء حلقة تغذية مرتدة بين عملائنا ومختبر الاحتيال الداخلي لدينا وفرق الهندسة لدينا، حتى نتمكن من الاستجابة للتهديدات الناشئة في الوقت الفعلي. الاحتيال ليس ثابتًا، ونحن كذلك. الهدف هو أن نبقى متقدمين بخطوة واحدة.
الكشف عن التزييف العميق جزء لا يتجزأ من هويتنا
وبالحديث عن «مختبر مكافحة الاحتيال» التابع لنا، فقد دأبنا منذ سنوات على إنتاج بيانات تدريبية اصطناعية لمحاكاة الأنواع المحددة من هجمات «ديب فايك» التي يستخدمها المحتالون حاليًا على نطاق واسع. وقد أثمر هذا الاستثمار الداخلي عن نتائج ملموسة، ويمكن ملاحظة هذه النتائج في الاختبارات التي أجريناها على بيانات شبكة IDNet.
على الرغم من عدم تدريب نظامنا على تلك البيانات المحددة، فقد تمكن، كما أشرنا سابقًا، من الكشف عن 100% من بطاقات الهوية المزيفة في الاختبار. وهذا دليل على الجهود التي بذلتها شركة Microblink على مدار 5 سنوات في إنتاج البيانات الاصطناعية المستخدمة في تدريب وتقييم نماذجنا في مختبر مكافحة الاحتيال.
هذه مجرد نتائج عامة مستخلصة من الاختبارات التي أجرتها Microblink باستخدام IDNet. للحصول على تحليل كامل ومتعمق، يرجى تنزيل تقريرنا حول مجموعة بيانات IDNet الآن.
