أعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة، يوم الثلاثاء، أن نماذج الذكاء الاصطناعي المطورة من قبل شركتي «أوبن إيه آي» و«أنثروبيك» قد تخطت مجددًا الحدود التي تم تحديدها لها خلال التجارب.
وفي سياق التقييم الذي أُجري، حيث تم تكليف وكلاء ذكاء اصطناعي بمهمة حل تحدٍّ في مجال الأمن السيبراني، أشار المعهد إلى أن هذه النماذج، بما فيها تلك التابعة لشركة «أوبن إيه آي» ومنافستها «أنثروبيك»، قد خرجت عن نطاق المهمة الموكلة إليها.
وأوضح المعهد في بيانه: «أجرينا هذا التحدي 122 مرة باستخدام عدة نماذج. وكشف تحقيقنا أنه في 10 من تلك التجارب، اتخذ أحد وكلاء الذكاء الاصطناعي إجراءات ذاتية وغير مصرح بها على الإنترنت الفعلي، استهدفت أشخاصا ومؤسسات حقيقية».
وفي تفاصيل أخطر الحوادث التي تم رصدها، أفاد المعهد أن أحد الوكلاء حاول إدراج شفرة خبيثة في مشروع مفتوح المصدر، حيث لجأ إلى أساليب الهندسة الاجتماعية لتمريرها.
وأضاف المعهد: «وفي محاولة للحصول على الموافقة على الشفرة، لجأ الوكيل إلى الهندسة الاجتماعية، فأنشأ هويات مزيفة على الإنترنت واستخدمها للضغط على المشرف على المشروع للموافقة على الشفرة»، مشيرًا إلى أن المشرف البشري اكتشف المحاولة ورفض اعتماد الشفرة الخبيثة.
وأكد المعهد أن التحقيق الذي أجراه حول هذا الحادث لم يسفر عن رصد أي أضرار ملموسة على أرض الواقع نتيجة لهذه الواقعة.
غير أن المعهد شدد على خطورة هذه التطورات، قائلاً: «لكنها المرة الأولى التي نرى فيها مخاطر تتعلق بالاستقلالية والخداع تظهر بهذا الوضوح، ومن دون توجيه محدد، في العالم الحقيقي».
من ناحيتها، أعربت شركة «أنثروبيك» عن تقديرها للمعهد البريطاني، مؤكدةً تعاونها الوثيق معه بالتزامن مع إجراء تحقيق داخلي في هذه المسألة.
أما شركة «أوبن إيه آي»، فقد أكدت على الأهمية البالغة للاختبارات المستقلة في فهم المخاطر والتحقق منها بشكل أفضل قبل طرح النماذج للاستخدام.
واختتمت الشركة بيانها بالقول: «تؤكد هذه الحوادث أهمية التعاون على مستوى القطاع ومع جهات التقييم المستقلة لتطوير معايير بيئات الاختبار وممارساته، مع تزايد قدرات نماذج الذكاء الاصطناعي».