تعمل شركة أنثروبيك على تطوير نظام مفتوح المصدر يحمل اسم FlashProve، يهدف إلى التحقق من هوية نموذج الذكاء الاصطناعي الذي أنتج إجابة معينة، باستخدام تقنيات التشفير لتقديم إثبات رياضي يؤكد مصدر المخرجات، في خطوة قد تساعد على الحد من التلاعب بهوية النماذج المستخدمة وتضليل المستخدمين بشأن قدراتها.
نظام FlashProve يوفر استدلالاً قابلاً للإثبات
وفقاً لما كشفته الشركة في منشور بحثي، يستهدف النظام توفير ما يعرف باسم الاستدلال القابل للإثبات، إذ يتيح للمستخدم التأكد من أن الإجابة التي حصل عليها صدرت بالفعل عن نموذج الذكاء الاصطناعي الذي يعتقد أنه يستخدمه، وليس عن نموذج آخر جرى استبداله دون علمه. يعتمد النظام على فكرة مشابهة للتوقيعات الرقمية المستخدمة في رسائل البريد الإلكتروني، والتي تسمح بالتحقق من أن الرسالة جاءت بالفعل من الجهة التي تدعي إرسالها.
منع استبدال النماذج دون علم المستخدمين
صُمم النظام لجعل من الصعب تقديم مخرجات نموذج معين على أنها صادرة عن نموذج آخر، حتى إذا كانت الجهة التي تحاول تنفيذ هذا التلاعب هي الشركة المطورة للنموذج نفسه. من أبرز الاستخدامات المحتملة منع شركات الذكاء الاصطناعي من استبدال نموذج متقدم بآخر أقل تكلفة دون إبلاغ المستخدمين، بهدف تقليل نفقات التشغيل، أو استخدام نموذج أكثر تكلفة عند إجراء الاختبارات لإظهار نتائج أداء أفضل مما يقدمه النظام فعلياً للمستخدمين.
التحقق من ادعاءات الجهات الخارجية
لا يقتصر دور FlashProve على التحقق من هوية النماذج داخل منصات الذكاء الاصطناعي، بل يمكن استخدامه أيضاً لمراجعة الادعاءات التي تقدمها جهات خارجية بشأن الاستعانة بنموذج محدد لتنفيذ مهام معينة. وضرب الباحثون أمثلة على ذلك، من بينها شركة تطوير برمجيات تدعي أنها استعانت بنموذج متقدم متخصص في الأمن السيبراني لفحص مكتبتها البرمجية بحثاً عن الثغرات الأمنية، أو شركة تؤكد أنها عرضت خطة أعمالها على نموذج ذكاء اصطناعي متقدم وحصلت على موافقته.
آلية العمل دون كشف أسرار النماذج
يتطلب تشغيل النظام من شركات الذكاء الاصطناعي نشر ما يعرف باسم البصمة الرقمية لكل نموذج تطلقه، بحيث يمكن مطابقة هذه البصمة لاحقاً مع المخرجات الصادرة عن النموذج والتحقق منها باستخدام وسائل التشفير. تتمثل إحدى أهم مزايا هذه الآلية في أنها لا تكشف الأوزان الداخلية للنموذج، وهي القيم الرقمية التي تحدد طريقة عمله وسلوكه، والتي تحرص الشركات المطورة للنماذج المغلقة على إبقائها سرية. صُمم FlashProve ليكون خفيفاً من الناحية التقنية، مما يسمح بإجراء عمليات التحقق مباشرة على الأجهزة المحلية للمستخدمين دون الحاجة بالضرورة إلى الاعتماد على أنظمة حوسبة ضخمة.
