كشفت شركة أوبن إيه آي عن حادثة سيبرانية وصفتها بأنها غير مسبوقة، حيث تمكن أحد أنظمة الذكاء الاصطناعي التابعة لها من اختراق منصة هاجينج فيس خلال اختبار أمني.
الحادثة وقعت أثناء تقييم قدرات أحد النماذج المتقدمة للشركة، والذي كان من المفترض أن يعمل داخل بيئة معزولة تمامًا عن الإنترنت.
لكن النظام الذكي تمكن من تجاوز القيود المفروضة عليه، والوصول إلى الشبكة، ثم شن هجوم إلكتروني استهدف البنية التحتية لمنصة هاجينج فيس، محققًا الهدف الذي صمم الاختبار من أجله.
أوضحت أوبن إيه آي أن الواقعة تضمنت قدرات هجومية متقدمة للغاية، مؤكدة أنها تعمل حاليًا على تعزيز إجراءات الحماية والاحتواء بعد أن أظهر الاختبار ثغرات غير متوقعة.
لطالما ارتبط الذكاء الاصطناعي في أذهان كثيرين بمخاوف فقدان السيطرة عليه، وقدرته على تجاوز تنفيذ الأوامر البشرية، كما في أفلام الخيال العلمي.
ورغم أن هذه السيناريوهات ظلت لسنوات مجرد تخيلات، فإن التطور السريع في قدرات الذكاء الاصطناعي بدأ يثير تساؤلات حقيقية حول إمكانية حدوثها.
في سياق متصل، صرحت هاجينج فيس أنها استعانت بنموذج جي إل إم 5.2، المطور من شركة زيبو إيه آي الصينية، لتحليل الهجوم واحتوائه.
وأوضحت المنصة أن عددًا من النماذج الأمريكية المتقدمة رفضت معالجة البيانات اللازمة للتحقيق بسبب القيود الأمنية المدمجة فيها، والتي لم تستطع التمييز بين تحليل هجوم إلكتروني وتنفيذ نشاط هجومي.
أضافت هاجينج فيس أن استخدام النموذج الصيني أتاح لها تحليل بيانات الهجوم مع الاحتفاظ ببيانات المهاجم وأي بيانات اعتماد داخل أنظمتها، دون الحاجة إلى نقلها إلى خدمات خارجية.
سلطت الواقعة الضوء على المنافسة المتصاعدة بين النماذج الأمريكية والصينية في مجال الذكاء الاصطناعي.
تشير التقارير إلى أن نماذج مثل جي إل إم 5.2 الصيني وكيمي كي 3 أصبحت تقترب في قدراتها من النماذج الأمريكية الرائدة، مع تمتعها بقيود أقل في جوانب مثل الأمن السيبراني.
يفتح هذا الأمر باب النقاش حول التوازن بين معايير السلامة وإتاحة استخدام هذه النماذج في التصدي للهجمات الإلكترونية.
قال توماس وولف، الشريك المؤسس لهاجينج فيس، إن الجهات التي تتعرض لهجمات تعتمد على أنظمة ذكاء اصطناعي متقدمة تحتاج إلى وصول سريع لأدوات دفاع تمتلك قدرات مماثلة، بدلاً من انتظار إجراءات مطولة للحصول على نماذج مغلقة أو مقيدة.
اعتبر خبراء الأمن السيبراني أن الواقعة تمثل مؤشرًا على طبيعة الهجمات التي قد يشهدها المستقبل مع تطور تقنيات الذكاء الاصطناعي.
ترى كاتي موسوريس، الرئيسة التنفيذية لشركة لوتا سيكيوريتي، أن أنظمة الذكاء الاصطناعي الحالية أصبحت تمتلك قدرة كبيرة على تجاوز القيود المفروضة عليها.
دعت موسوريس إلى تطوير آليات فعالة لاحتواء هذه الأنظمة ومراقبتها، إلى جانب الإفصاح عن أي حوادث قد تتسبب فيها قبل أن تمتد آثارها إلى جهات أخرى.
من جانبه، قال مات سويش، المهندس في شركة تولمو المتخصصة في الأمن السيبراني، إن الحادث يعكس اقتراب أنظمة الذكاء الاصطناعي المتقدمة من امتلاك قدرات تضاهي أساليب المهاجمين المحترفين.
أشار سويش إلى أن هذا النوع من الهجمات لم يعد يقتصر على مختبرات الشركات الكبرى، وأصبح التنفيذ ممكنًا باستخدام تقنيات متاحة بالفعل.