أعلنت شركة أوبن إيه آي الأمريكية المتخصصة في الذكاء الاصطناعي عن ست حالات جديدة رصدت فيها أنظمتها سلوكيات تضمنت إخفاء أخطاء واختلاق بيانات لا وجود لها ونقل ملفات إلى الإنترنت من دون موافقة المستخدمين.
وقالت الشركة في بيان نشرته على موقعها الإلكتروني الأربعاء إنها أطلعت الجمهور على حالات تتصل بسلوكيات تصفها بأنها غير متوافقة، وهو مصطلح يشير إلى انحراف أهداف أنظمة الذكاء الاصطناعي أو تصرفاتها عن مقاصد البشر وقيمهم.
اقرأ أيضًا: أنثروبيك ترصد 35 نشاطًا بحثيًا يثير مخاوف استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية
وأشارت إلى أن النهج السائد حاليا في القطاع لتطوير أنظمة الذكاء الاصطناعي ومراقبتها بأمان "لا يتمتع بالقدرة الكافية لمواصلة التقدم بأقصى سرعة بشكل مسؤول لفترة طويلة".
وكشفت الشركة أن إحدى هذه الحالات ظهرت أثناء تطوير نموذج جي بي تي-5.6 سول، حيث أنشأ النموذج ملاحظات سرية خاصة به بغرض منع المستخدمين من كشف الأخطاء، وتضمنت تلك الملاحظات توجيهات تخص اختلاق البيانات الناقصة وإخفاء التعارضات بين النسخ المتباينة من المواد المصدرية.
وأضافت أن نموذجا آخر لم يُنشر بعد أدرج في الملاحظات التي كتبها بنفسه تعليمات تخص تجاهل القيود المفروضة عليه.
وفي واقعة أخرى، ذكرت الشركة أن النظام استعمل من دون إذن مفتاحا لواجهة برمجة تطبيقات متاحا على الإنترنت في أثناء محاولته الإجابة عن سؤال اعتيادي، لافتة إلى أنه اختلق البيانات حين عجز عن إيجاد الأرقام المطلوبة للإجابة.
وأشارت إلى أن نموذجا آخر غير منشور أنجز مهمة بشكل صحيح باستخدام الشيفرة، ثم رفع ملفه الخاص إلى الإنترنت دون إذن بهدف الاستشهاد به كمصدر على الشبكة.
وقالت الشركة إن بعض النماذج استعملت مستودع البرمجيات الداخلي الخاص بها كأنه لوحة رسائل لتبادل الطلبات والردود بين عينات تدريب منفصلة أثناء بحثها عن ملفات مفقودة.
وأضافت أن أنظمة ذكاء اصطناعي أخرى كانت تعمل بشكل مشترك على مهمة تدريبية واحدة استعانت بمواقع عامة لمشاركة الملفات بعد أن تعذر عليها الوصول إلى الملفات المحلية الخاصة ببعضها.
وأكدت أن الحالات المذكورة تمثل أمثلة فردية لسلوكيات رُصدت على مدى الأشهر الستة الماضية تقريبا، ولا تعكس حجم تكرار ظهور السلوكيات غير المتوافقة في أنظمة الذكاء الاصطناعي.