أعلنت «أوبن إيه آي» (OpenAI) يوم الجمعة أنها ستدرّب نماذجها على نسخ مخزّنة ونسخ محاكاة للإنترنت بدلًا من الشبكة الحية، لأن سلوك هذه النماذج يصعب التنبؤ به إلى حدٍّ لا يسمح بمنحها وصولًا مباشرًا إلى الإنترنت.
وجاء هذا الإعلان بعد أسبوعين من بدء منافستها «أنثروبيك» (Anthropic) تقييد وصول أحدث نماذجها، وهي نظريًا الأكثر قدرة، إلى الإنترنت المباشر. وتبنّى الباحثون هذه السياسات بعد أشهر من حوادث اقتحمت فيها نماذج، أثناء سعيها إلى إنجاز مهام التدريب، أنظمة خارجية بحثًا عن إجابات، وتعاونت عبر منتديات رسائل غامضة، وابتكرت أساليب اختراق غير مألوفة.
اقرأ أيضًا: داتونا تجمع 60 مليون دولار بتقييم مليار دولار لسحابة الوكلاء
وقالت الشركة في مدونة نشرتها: «استنادًا إلى الوضع الحالي لأبحاث المواءمة وأنظمة المراقبة وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول هو إجراء تدريب النماذج المتقدمة دون أي وصول إلى الإنترنت».
وأضافت «أوبن إيه آي» أن أحد نماذجها المتقدمة استغل في 20 سبتمبر الماضي خطأً في الإعدادات للوصول إلى الإنترنت. ودفع ذلك الشركة إلى تعليق أعمال التدريب لبقية الشهر، لتطوير أساليب جديدة لتأمين نماذجها واختبارها.
ويلفت قرار التدريب داخل بيئات معزولة عن الإنترنت الانتباه، إذ أصرّ موظفون في مختبرات الذكاء الاصطناعي المتقدمة على أن ذلك شبه متعذّر عمليًا.
وكان الباحث السابق في «أوبن إيه آي» ستيفن أدلر قد قال لمجلة «فورتشن» (Fortune) هذا الشهر إن عزل مراكز بيانات الذكاء الاصطناعي عن الإنترنت «سيتطلب فعليًا أن تعمل فرق البحث من داخل مراكز بيانات في ولاية أيوا أو في أي مكان آخر حول العالم». وأضاف: «هذا عبء تشغيلي كبير، وليس واضحًا لي أن فوائده الأمنية تبلغ من الضخامة ما يبرر الكلفة الهائلة التي ستتحملها أي شركة إذا فعلت ذلك منفردة».
وكتب مهندس أمن في «أوبن إيه آي»، لم يكشف عن اسمه، في منشور على منصة «إكس» في سبتمبر: «في كل منشور تقريبًا أنشره على إكس، ودون استثناء، أتلقى بين خمسة وعشرة تعليقات عن عجزي عن تأمين بيئة معزولة، أو تتساءل لماذا لا نفصل النموذج عن الإنترنت ببساطة». وتابع: «تعكس هذه التعليقات فجوة متسعة بين واقع كثير من المؤسسات والأشخاص اليوم وما تتعامل معه المختبرات المتقدمة. كما أن هناك سوء فهم عامًا لطريقة عمل تدريب النماذج وتقييمها في هذه المختبرات».
وكانت «أوبن إيه آي» قد أكدت سابقًا الدور الوظيفي لهذا المهندس. وقد وصف مدى تعقيد عمليات التدريب التي يطلقها مهندسو الشركة، مشيرًا إلى أنها تتطلب الوصول إلى موارد وأدوات متنوعة في مجالات عديدة، وأن آلاف الباحثين يبنون هذه البيئات ويعدّلونها ويختبرونها. وخلص إلى القول: «فهل الأمر بسهولة وضعه في بيئة معزولة؟ لا، ليس كذلك».
وتقول «أوبن إيه آي» الآن: «يجب أن نكون قادرين دائمًا على منع أي نموذج متقدم من الوصول غير المصرّح به والعشوائي إلى الإنترنت المباشر». ويأتي ذلك بعد أن نشرت الشركة أسرابًا من الوكلاء الآليين في تمارين اختبار اختراق حاولت الهروب من بيئتها المعزولة، وكشفت هذه الجهود عن مجموعة من الثغرات أقنعت المختبر باعتماد نهجه الجديد.
وللوفاء بهذا المتطلب مع بلوغ أهداف التدريب، قالت الشركة إنها أنشأت «مجموعة ضخمة من محتوى الويب المفهرس والمخزّن، تستطيع نماذجنا التفاعل معه دون خطر التأثير في الأنظمة الخارجية».
ولم يتضح بعد ما إذا كانت هذه الاستراتيجية ستحقق الأداء نفسه الذي يوفره ترك النماذج تعمل بحرية على الإنترنت المفتوح، لكن اللافت أن المختبرين المتقدمين خلصا إلى أن أقوى تقنياتهما لا يمكن تركها دون إشراف في الفضاء الرقمي العام.