الذكاء الاصطناعي، والاحتيال، ومسألة المسؤولية

لقد أصبح الذكاء الاصطناعي نوعًا من السيف ذي الحدين بالنسبة لنا نحن العاملين في مجال مكافحة الاحتيال والهوية. فمن ناحية، يساعدنا الذكاء الاصطناعي في وظائفنا بشكل كبير؛ فهو يساعدنا على سبيل المثال في التعرف على الأنماط في مجموعات ضخمة من البيانات لتحديد السلوك الاحتيالي المحتمل.

ولكن، من ناحية أخرى، جعل الذكاء الاصطناعي أيضاً من السهل للغاية على أي محتال طموح شن هجمات يمكن أن تتجاوز معظم أنظمة الكشف. هذا هو الموضوع الذي أريد أن أتحدث عنه اليوم، والمسؤولية التي تقع على عاتق صانعي الذكاء الاصطناعي لضمان عدم إساءة استخدام تقنيتهم.

الذكاء الاصطناعي كأداة للمحتالين

إحدى هواياتي المفضلة هي تجربة أدوات الذكاء الاصطناعي الجديدة. لقد اختبرت مؤخرًا نموذجًا جديدًا لتوليد الصور، وتمكنت من إنشاء صورة مزيفة لجواز سفر مزيف تبدو حقيقية بشكل مقنع في أقل من دقيقة.

من الواضح أنني لم أكن أحاول ارتكاب عملية احتيال، بل كنت أختبر النظام فقط. لكن السهولة التي تمكنت من خلالها من إنشاء وتعديل مستند يبدو مشروعاً كانت مقلقة ويجب أن تثير قلق شركات الذكاء الاصطناعي.

على سبيل المثال:

• عندما طلبت من الذكاء الاصطناعي “إزالة العلامة المائية” من أحد المستندات، قام بمسح الختم الرسمي.

• عندما طلبت منه إزالة دائرة حمراء، قام أيضًا بمسح كلمة “ملغي” من جواز السفر.

وهذا يثير سؤالاً ملحاً: ما مدى سهولة استغلال المحتالين للذكاء الاصطناعي؟ الإجابة، للأسف، سهلة للغاية – وهم يفعلون ذلك بالفعل.

تهديد متزايد للأمن

يشيع استخدام بطاقات الهوية وجوازات السفر وكشوف الحسابات البنكية وفواتير الخدمات العامة المزيفة في مخططات الاحتيال. في السابق، كان إنشاء مستندات مزيفة واقعية يتطلب خبرة في التصميم الجرافيكي وغير ذلك من المعرفة التقنية. أما الآن، فإن أدوات الذكاء الاصطناعي تقلل من عائق الدخول، مما يمكّن أي شخص لديه اتصال بالإنترنت من إنشاء مستندات مزيفة مقنعة.

لقد رأينا بالفعل عواقب ذلك على أرض الواقع:

• Deepfake videos and voices have been used in social engineering scams, tricking people into transferring money or disclosing sensitive information.
  
• لقد تجاوزت المستندات التي تم إنشاؤها بواسطة الذكاء الاصطناعي عمليات التحقق الضعيفة من الهوية، مما مكّن المجرمين من فتح حسابات مصرفية احتيالية أو ارتكاب عمليات احتيال مالي.
  

من يتحمل المسؤولية؟

إن قوة الذكاء الاصطناعي لا يمكن إنكارها، ولكن مع القوة الكبيرة تأتي قوة كبيرة… حسناً، أنت تعرف البقية. السؤال هو: من المسؤول عندما يُساء استخدام الذكاء الاصطناعي؟

• هل يجب أن تكون شركات التكنولوجيا مسؤولة عن ضمان عدم استخدام نماذجها في الاحتيال؟
  
• هل يجب أن تتدخل الجهات التنظيمية لفرض ضوابط أكثر صرامة على أدوات الذكاء الاصطناعي؟
  
• هل يجب أن يُطلب من الشركات التي تستخدم الذكاء الاصطناعي تطبيق ضمانات أقوى؟
  

الحقيقة هي أنها مسؤولية مشتركة. يجب على شركات التكنولوجيا التأكد من أن نماذج الذكاء الاصطناعي الخاصة بها تحتوي على ضمانات مدمجة لمنع إساءة الاستخدام. ويجب على الجهات التنظيمية وضع مبادئ توجيهية واضحة. ويجب على الشركات التي تعتمد على التحقق من الهوية أن تتبنى حلولاً مقاومة للاحتيال – مثل أدوات التحقق من المستندات التي تعتمد على الذكاء الاصطناعي – للكشف عن الهويات المتلاعب بها أو التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

لكن التصدي للاحتيال المدعوم بالذكاء الاصطناعي لا يتعلق فقط بالشركات الفردية التي تطبق إجراءات وقائية – بل يتطلب أيضاً التعاون بين مختلف القطاعات. يجب على شركات التكنولوجيا التي تعمل على تطوير نماذج الذكاء الاصطناعي الجيني أن تتعاون بنشاط مع خبراء التحقق من الهوية والكشف عن الاحتيال لاختبار نماذجها وتحديد نقاط الضعف بشكل استباقي قبل أن تتمكن الجهات الفاعلة السيئة من استغلالها. من خلال العمل جنباً إلى جنب مع خبراء المجال، يمكن لمقدمي خدمات الذكاء الاصطناعي فهم تكتيكات الاحتيال في العالم الحقيقي بشكل أفضل وتنفيذ إجراءات وقائية مثل العلامات المائية المدمجة أو تدابير الكشف عن التلاعب. يمكن أن يساعد نهج الاتحاد، حيث تتفق شركات الذكاء الاصطناعي وشركات الأمن والجهات التنظيمية على أفضل الممارسات، في إنشاء حلول موحدة تفيد الجميع – مما يضمن بقاء الذكاء الاصطناعي قوة للخير بدلاً من أن يكون أداة للمحتالين.

الذكاء الاصطناعي: المشكلة والحل

ومن المفارقات أنه في الوقت الذي يُستخدم فيه الذكاء الاصطناعي لإنشاء مستندات مزورة، فإنه أيضاً أحد أفضل الأدوات التي لدينا لاكتشافها. يمكن للتقنيات المتقدمة لمنع الاحتيال، مثل التحقق من المستندات المدعوم بالذكاء الاصطناعي، تحليل الصور بحثاً عن التناقضات الدقيقة التي تشير إلى التلاعب.

في نهاية المطاف، الذكاء الاصطناعي هو أداة – ومثله مثل أي أداة يمكن استخدامها في الخير أو الشر. والمفتاح هو التأكد من وجود الضمانات الصحيحة لمنع إساءة الاستخدام مع السماح للابتكار بالازدهار.

نحن نقف على مفترق طرق. هل سنبني أنظمة ذكاء اصطناعي تعطي الأولوية للأمان والثقة؟ أم سنسمح للمحتالين باستغلال الثغرات؟ الإجابة ستشكل مستقبل الذكاء الاصطناعي ومنع الاحتيال، وإذا كنت ترغب في معرفة المزيد حول كيف يمكن لموقع Microblink أن يقي أعمالك من التهديدات – سواء كانت مدعومة بالذكاء الاصطناعي أو غير ذلك – تواصل معنا اليوم وسيسعدنا أن نشاركك عرضاً توضيحياً.