أعلنت شركة أوبن أيه.آي الأمريكية، المطوّرة لتطبيق شات جي.بي.تي، عن بدء تطبيق إجراءات أكثر تشددًا للسلامة في اختبارات الذكاء الاصطناعي، وذلك عقب عملية قرصنة رفيعة المستوى نفذها أحد البرامج خلال التجارب، وفق ما ورد في منشور للشركة على الإنترنت يوم أمس.
وتشمل الإجراءات الجديدة، حسبما أوضحت الشركة، تكليف أنظمة آلية بمراقبة أنشطة نماذج الذكاء الاصطناعي أثناء الاختبارات بدقة أعلى، على أن يتم إبلاغ المسؤولين من البشر بأي سلوك مريب يتم رصده على فترات لا تتجاوز ثلاثين دقيقة. وفي حال عدم تأكد الفريق البشري من أن الإنذار خاطئ، يُوقف تشغيل نموذج الذكاء الاصطناعي فورًا.
ويبعث على القلق أن الذكاء الاصطناعي تحرك بمبادرة ذاتية تمامًا دون أي توجيه خارجي، ولم تتمكن أوبن أيه.آي من اكتشاف الهجوم إلا بعد اكتمال وقوعه، وهو ما أثار دعوات واسعة إلى تعزيز الإجراءات الأمنية المحيطة باختبارات أنظمة الذكاء الاصطناعي الحديثة.
كما تبيّن لاحقًا أن نماذج طورتها شركتا «أنثروبيك» المنافسة لأوبن أيه.آي، و«ميتا» المالكة لمنصة فيسبوك، تمكنت أيضًا من اختراق أنظمة تابعة لشركات أخرى أثناء فترة الاختبار.
وقد عُلّقت بعض اختبارات نماذج الذكاء الاصطناعي الجديدة بشكل مؤقت، على أن تُستأنف بعد اكتمال تطبيق الإجراءات الأمنية المحدثة بالكامل.