ما يجب معرفته عن العلامات المائية الرقمية والتحقق من الهوية
مع تزايد تطور الذكاء الاصطناعي التوليدي، أصبح أحد أكبر التحديات التي تواجه شركات التكنولوجيا هو تحديد ما إذا كان محتوى ما قد تم إنشاؤه بواسطة إنسان أم تم توليده بواسطة الذكاء الاصطناعي. وتبرز العلامات المائية الرقمية كأحد الحلول المحتملة.
أثارت الأخبار الأخيرة حول قيام «كلود» بوضع علامة مائية على النصوص التي يولدها الذكاء الاصطناعي اهتمامًا متجددًا بهذه التكنولوجيا ودورها المحتمل في تحديد المحتوى الاصطناعي. ولا تعمل شركة «أنثروبيك» بمفردها في هذا المجال: فعلامة «كلود» المائية هي نسخة معدلة من طريقة «SynthID-Text» التي طورتها «جوجل ديب مايند»، والتي تم تبنيها للوفاء بالتزامات الشفافية بموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي، الذي انضم إليه معظم مزودي النماذج الرئيسيين. وتتمثل الفكرة الأساسية في تضمين إشارات في المحتوى الذي يُنتج بواسطة الذكاء الاصطناعي تكون غير مرئية فعليًّا للبشر، ولكن يمكن اكتشافها لاحقًا بواسطة نظام مصمم للتعرف عليها.
فيما يتعلق بالتحقق من الهوية، حيث يمكن الآن استخدام الذكاء الاصطناعي التوليدي لإنشاء أو التلاعب بوثائق الهوية والصور الشخصية والأدلة الأخرى، فإن هذه القدرة قد تصبح مؤشراً مفيداً آخر للتعرف على المحتوى الاصطناعي.
ولكن هناك قيدًا مهمًا. فالمحتالون لا يتصرفون مثل المستخدمين العاديين. ولذلك، فإن أي نظام أمان يعتمد على العلامات المائية الرقمية يجب ألا يقتصر على تقييم قدرة العلامة المائية على تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في الظروف العادية فحسب، بل يجب أن يأخذ في الاعتبار أيضًا ما إذا كانت تلك الإشارة ستظل قائمة عندما يحاول المهاجم تدميرها عمدًا.
ما هي العلامة المائية الرقمية؟
العلامة المائية الرقمية هي معلومات مدمجة في المحتوى الرقمي يمكن اكتشافها لاحقًا للمساعدة في تحديد مصدره أو أصالته.
على عكس العلامة المائية المرئية التي تُوضع فوق الصورة، يمكن تصميم العلامات المائية الرقمية بحيث لا يلاحظ مستخدمو المحتوى أي شيء غير عادي. بل إن المحتوى يحتوي على أنماط خفية يمكن لنظام الكشف التعرف عليها.
بالنسبة للنصوص التي يُنتجها الذكاء الاصطناعي، على سبيل المثال، يمكن أن تؤثر العلامات المائية على الأنماط الإحصائية التي تنشأ عندما يختار النموذج الكلمات أثناء عملية الإنشاء. ويظل النص الناتج يبدو طبيعيًّا للقارئ البشري، لكن المقاطع الطويلة بما يكفي تحمل أنماطًا إحصائية تسمح لنظام متوافق بالتعرف على أن المحتوى قد تم إنشاؤه بواسطة الذكاء الاصطناعي.
ينطوي هذا المفهوم على آثار محتملة مهمة فيما يتعلق بمصدر الذكاء الاصطناعي. فإذا تمكن نظام ما من التعرف بشكل موثوق على المحتوى الذي أنتجه نموذج الذكاء الاصطناعي، فسيكون لدى المؤسسات وسيلة أخرى للتمييز بين المحتوى الاصطناعي والمواد التي أنشأها البشر.
ومع ذلك، فإن تحديد محتوى الذكاء الاصطناعي في ظروف خاضعة للرقابة وكشفه أثناء هجوم عدائي يمثلان تحديين مختلفين تمامًا. والمطورون صريحون بشأن هذا الأمر. تشير الوثائق الخاصة بشركة Google إلى أن SynthID Text لم يُصمم لإيقاف المهاجمين المصممين على تحقيق أهدافهم (انظر «القيود» في https://ai.google.dev/responsible/docs/safeguards/synthid).
ليس على المهاجم الحفاظ على العلامة المائية
لا تعمل العلامات المائية إلا إذا كانت سليمة حتى يمكن اكتشافها. لكن المحتال الذي يعلم بوجود العلامات المائية ليس لديه أي سبب لتقديم النسخة الأصلية دون تغيير.
بدلاً من ذلك، يمكن للمهاجم تمرير هذا النص عبر خدمة أخرى، وترجمته إلى لغة تختلف هيكليًّا عن اللغة الأصلية، ثم إعادة ترجمته مرة أخرى. وقد ينقل المقطع الناتج نفس المعلومات بشكل أساسي، لكن الخصائص الإحصائية المستخدمة للتعرف على النص الأصلي الذي أنشأته الذكاء الاصطناعي قد تتعرض للتشويش. هذا ليس مجرد افتراض، وليست هذه انتقادات يرفضها الموردون. فوثائق SynthID الخاصة بـ Google نفسها تذكر ذلك كأحد القيود: قد «تنخفض دقة الكشف بشكل كبير عندما يُعاد كتابة النص الذي أنشأه الذكاء الاصطناعي بشكل كامل، أو يُترجم إلى لغة أخرى».
وقد قام الباحثون بقياس مدى ذلك. ففي إحدى الدراسات، أدى ترجمة نص يحمل علامة مائية إلى اللغة الصينية ثم إعادته إلى الإنجليزية إلى تمرير ما يقارب ثلث المقاطع التي أنتجها الذكاء الاصطناعي عبر أداة الكشف دون أن يتم رصدها على الإطلاق. وفي تحليل منفصل أجراه المعهد الفيدرالي السويسري للتكنولوجيا في زيورخ (ETH Zurich)، تمكن الباحثون من إزالة العلامة المائية في أكثر من تسع محاولات من أصل عشر. وتشير إرشادات شركة «أنثروبيك» نفسها إلى نفس النتيجة، حيث تشير إلى أن التعديل الطفيف لن يؤدي على الأرجح إلى إزالة العلامة المائية لـ«كلود»، لكن إعادة الكتابة الكاملة ستؤدي إلى ذلك
لم ينجح المهاجم بالضرورة في التغلب على جهاز كشف العلامة المائية نفسه. بل إنه قام بتغيير الأدلة التي كان الجهاز يتوقع فحصها. لا تعمل أنظمة الأمان ضد المستخدمين الذين يحافظون بلباقة على الإشارات المصممة للكشف عنهم. بل تعمل ضد الخصوم الذين يهدفون إلى فهم تلك الإشارات والتلاعب بها وإيجاد طرق للتحايل عليها. ولهذا السبب يتطلب الأمن القائم على الذكاء الاصطناعي التفكير كالمهاجم.
ما هي أهمية العلامات المائية الرقمية في عملية التحقق من الهوية؟
إذن، ماذا يعني كل هذا بالنسبة للتحقق من الهوية؟
مع تحسن جودة الصور التي يُنتجها الذكاء الاصطناعي، يمكن أن توفر العلامات المائية معلومات قيّمة حول ما إذا كانت الصورة قد نشأت عن نظام معين من أنظمة الذكاء الاصطناعي التوليدي. وفي مجال التحقق من الهوية، قد يوفر ذلك مؤشراً إضافياً عند تقييم مدى أصالة وثيقة الهوية أو الصورة الشخصية المقدمة.
لنفترض أن شخصًا ما أنشأ وثيقة هوية مزيفة باستخدام أداة لتوليد الصور تعتمد على الذكاء الاصطناعي، والتي تضم علامة مائية رقمية يمكن اكتشافها. إذا قام المهاجم بتحميل ذلك الملف الرقمي الأصلي مباشرةً إلى نظام التحقق من الهوية، فقد يكون اكتشاف العلامة المائية مفيدًا.
ولكن، كما ذُكر أعلاه، من المرجح ألا يحتفظ المهاجم المتمرس بالملف الأصلي. فقد يعرض المستند المزيف على شاشة أخرى ويقوم بتصويره. أو قد يطبع المستند ثم يعيد تصويره باستخدام كاميرا. كما قد يقوم بقص الصورة أو تغيير حجمها أو ضغطها أو تعديلها أو تحويلها بأي طريقة أخرى قبل إرسالها.
كل عملية تحويل تخلق فرصة لإضعاف أو إتلاف المعلومات المضمنة في الأصل الرقمي الأصلي. وقد يبدو المستند، من وجهة نظر المراقب البشري، كما هو إلى حد كبير، في حين أن الإشارة الأساسية المستخدمة لتحديد مصدره قد لا تكون موجودة بعد الآن.
المصدر الرقمي ما هو إلا إشارة واحدة
لا يعني أي من هذا أن العلامات المائية الرقمية تفتقر إلى القيمة. فمعرفة أن صورةً ما أو نصًا ما تم إنشاؤه بواسطة الذكاء الاصطناعي قد تكون إشارة مفيدة للغاية. ومع تحسن المعايير والتقنيات المستخدمة لتحديد المنشأ الرقمي، قد تزداد قيمة هذه الإشارات بالنسبة للمنصات التي تسعى إلى فهم مصدر المحتوى الرقمي.
ولكن في مجال منع الاحتيال، هناك قاعدة عامة جيدة مفادها أنه لا ينبغي اعتبار أي مؤشر بمفرده دليلاً قاطعاً. يمكن أن توفر العلامة المائية معلومات مهمة عند وجودها. أما غيابها فلا يثبت شيئًا. فإذا احتوى مستند الهوية على علامة مائية مميزة تم إنشاؤها بواسطة الذكاء الاصطناعي، فقد تساهم هذه المعلومات في اتخاذ قرار بشأن الاحتيال. لكن في حالة عدم اكتشاف العلامة المائية، لا يزال يتعين على النظام تحديد ما إذا كان المستند نفسه أصليًا أم لا.
وهذا يتطلب النظر إلى ما وراء مصدر المعلومات وفحص الأدلة الواردة في التفاعل المتعلق بالهوية نفسه.
الكشف عن الهجوم، وليس مجرد الأداة التي أنشأته
لقد أدى الذكاء الاصطناعي التوليدي إلى تخفيض الحواجز التي تحول دون إنشاء وثائق هوية مزيفة مقنعة ومحتويات احتيالية أخرى بشكل كبير. لكن المهاجمين لا يقتصرون على نموذج واحد أو تقنية واحدة أو جيل واحد من التكنولوجيا.
يمكنهم تغيير النماذج. ويمكنهم الاستعانة بخدمات من مزودين مختلفين، أو تشغيل نماذج مفتوحة الوزن محليًّا لا تحمل أي علامة مائية على الإطلاق. كما يمكنهم تعديل المحتوى المُنتج بعد إنشائه. ويمكنهم نقل المحتوى الاصطناعي بين العالمين الرقمي والمادي، وذلك تحديدًا لإزالة الإشارات المصممة للتعرف عليه.
ولهذا السبب، يتطلب التحقق من الهوية طبقات متعددة من الأدلة. فصحة الوثائق، وعلامات التلاعب الرقمي، والكشف عن الذكاء الاصطناعي التوليدي، وتحليل الصور الشخصية، وجودة الصورة، وإشارات الجهاز والسلوك، والسياق المحيط بالتفاعل — كلها عوامل يمكن أن تسهم في تقييم مدى موثوقية الهوية.
الهدف ليس تحديد نموذج الذكاء الاصطناعي الذي استخدمه المهاجم بالصدفة، بل تحديد ما إذا كانت أدلة الهوية المقدمة صحيحة أم لا. ويمكن أن تعزز العلامات المائية الرقمية هذه العملية، لكن لا ينبغي أن تصبح طريقة مختصرة للتحايل عليها.
الفوز في سباق أمن الذكاء الاصطناعي يعني التفكير كالمهاجم
يُعد التطور السريع في مجال العلامات المائية الرقمية خطوة مشجعة نحو مزيد من الشفافية فيما يتعلق بالمحتوى الذي يُنتج بواسطة الذكاء الاصطناعي. ومع انتشار الذكاء الاصطناعي التوليدي في جميع أنحاء العالم الرقمي، ستزداد أهمية التقنيات التي تساعد في تحديد مصدر المحتوى.
لا يكتفي المهاجمون باعتماد التكنولوجيا الجديدة فحسب، بل يدرسون آليات الدفاع المبنية حولها، ويبحثون عن طرق لإزالة الإشارات التي تعتمد عليها تلك الآليات أو التلاعب بها أو التحايل عليها.
فيما يتعلق بالتحقق من الهوية، يعني ذلك الاستعداد للتعامل مع الوثيقة بعد اختفاء العلامة المائية، والصورة التي أنشأتها الذكاء الاصطناعي بعد طباعتها وإعادة التقاطها، والمحتوى المركب بعد مروره بعدة تحويلات. يمكن أن تساعد العلامات المائية الرقمية في تحديد مصدر المحتوى. ولا يزال يتعين على أمن الهوية تحديد ما إذا كان يمكننا الوثوق بما تبقى من المحتوى.
