كشفت شركة مايكروسوفت، يوم الاثنين، عن ميزات أمنية جديدة تهدف إلى حماية المؤسسات من الخطر المتنامي لوكلاء الذكاء الاصطناعي. ويأتي ذلك في وقت تواصل فيه الشركة تحذير المؤسسات من مخاطر الذكاء الاصطناعي والوكلاء.
وأبرز هذه الإضافات ميزة «الوكلاء الحرّاس» (Guardian Agents)، المخصصة لمراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم الشركات. وهي جزء من منتج «مشروع بيرسيبشن» (Project Perception) الذي أطلقته مايكروسوفت في يونيو/حزيران.
اقرأ أيضًا: داتونا تجمع 60 مليون دولار بتقييم مليار دولار لسحابة الوكلاء
وكان «مشروع بيرسيبشن» رد مايكروسوفت على نماذج الاختراق القوية، مثل «ميثوس» (Mythos) و«فيبل» (Fable) من أنثروبيك، ونظام «دايبريك» (Daybreak) الذي طورته أوبن إيه آي لرصد الثغرات الأمنية. وانطلق المشروع في البداية بثلاث فئات من الوكلاء: «فريق أحمر» يتصرف كالمخترقين وينفذ الهجمات، و«فريق أزرق» يرصد الفريق الأحمر ويقيّم الثغرات التي يكتشفها، و«فريق أخضر» مهمته إصلاح تلك الثغرات.
وقد صُمم المنتج انطلاقًا من افتراض أن المخترقين من الذكاء الاصطناعي سيأتون من خارج الشركة. غير أن الرئيس التنفيذي لمايكروسوفت ساتيا ناديلا بات يحذر مؤخرًا من أن العدو قد يكون الوكلاء أنفسهم الذين نشرتهم المؤسسات وتدفع مقابل استخدامهم، على غرار موظف بشري متمرد، وهو ما يُعرف بـ«التهديد الداخلي».
ففي وقت سابق من الشهر الجاري، حذر ناديلا في مدونته الخاصة من أن الوقت قد حان للتوقف عن الثقة بمزودي نماذج الذكاء الاصطناعي، حتى لو قدموا ضمانات بشأن سلامة منتجاتهم القائمة على الوكلاء وأمنها. ويدعو ناديلا المؤسسات إلى اعتماد أنظمة مستقلة لا تخضع لسيطرة مختبرات الذكاء الاصطناعي، تتولى مراقبة الوكلاء الذين تطلقهم منتجات هذه المختبرات والتحكم فيهم.
وكتب ناديلا: «نحن ننشر هذه الأنظمة والنماذج المعقدة القائمة على الوكلاء، ونمنحها الوصول إلى أكثر بياناتنا حساسية، ونخوّلها اتخاذ إجراءات بالغة الأهمية نيابة عنا! لا يمكننا ببساطة أن نُسند إلى غيرنا المسؤولية عما يفعله الذكاء نيابة عنا. وضمانات مزود النموذج لا تعفينا من هذه المسؤولية... بعبارة أخرى، علينا أن نفصل بين توفير الذكاء والسلطة عليه».
أما رئيسة قطاع الأمن في مايكروسوفت هاييت غالو (Hayete Gallot)، فكانت أكثر صراحة عند إعلانها عن «الوكلاء الحرّاس»، إذ كتبت: «للأسف، لا يمكن الوثوق بالنماذج المتقدمة، بغض النظر عن مصدرها». وأوضحت أن ذلك لا يعود إلى كونها خبيثة أو سهلة الاختراق، بل إلى أنها غير قابلة للتنبؤ، فقد دُرّبت على إنجاز المهام، لا على اتباع «الأعراف التنظيمية أو حسن التقدير». ويُضاف إلى ذلك أنها كثيرًا ما تُمنح مفاتيح المملكة، أي صلاحيات الوصول إلى بيانات وأدوات قد تُلحق أضرارًا جسيمة.
وبحسب موقع «تك كرانش»، فإن الحل الذي تطرحه مايكروسوفت مفاجئ ويخدم مصالحها في آن واحد. فوجه المفاجأة أن الشركة معروفة بقربها من أوبن إيه آي وأنثروبيك، إذ استثمرت في كلتيهما، كما أن أوبن إيه آي من أكبر عملائها في الخدمات السحابية، فضلًا عن امتلاك مايكروسوفت مختبرًا خاصًا بها لتطوير النماذج. وبذلك فهي تزرع الشك في جهات ترتبط بها بعض مصالحها التجارية.
أما خدمة المصالح، فتتمثل في رغبة مايكروسوفت في أن تشتري المؤسسات منتجات أمن الوكلاء منها بصفتها مزودًا للخدمات السحابية، لا من أنثروبيك وأوبن إيه آي. ومع ذلك، يرى الموقع أن منطقها سليم بعيدًا عن تضارب المصالح، فالبرمجيات التي تراقب سلوك الوكلاء ينبغي أن تكون مستقلة عن مزوديهم، تمامًا كما يجب أن يكون المدققون مستقلين عن المؤسسات التي يدققون حساباتها. أو كما يقول ناديلا: «علينا أن نفصل بين توفير الذكاء والسلطة عليه».
وتسعى مايكروسوفت حاليًا إلى استثمار هذه الفرصة التجارية بطرق متعددة. فإلى جانب «الوكلاء الحرّاس»، أضافت إلى منتجها «مايكروسوفت ديفندر» (Microsoft Defender) ميزة لرصد الوكلاء قادرة على اكتشاف ما يصل إلى 60 نوعًا من الوكلاء الذين يجلبهم الموظفون إلى بيئة العمل، من بينها «كلود كود» (Claude Code) و«كوديكس» (Codex) و«أوبن كلو» (OpenClaw). كما أضافت ميزات تحد من وصول الوكلاء إلى البيانات والأنظمة، وتعدّل صلاحياتهم تلقائيًا بحسب طبيعة المهمة، بما في ذلك اشتراط موافقة بشرية إذا بدا أن أحد الوكلاء يتخذ قرارات محفوفة بالمخاطر.
ولا تقتصر فكرة التعامل مع الوكلاء بوصفهم عناصر داخلية غير جديرة بالثقة على مايكروسوفت، بل بدأت تترسخ في القطاع على نطاق أوسع. فقد كانت مايكروسوفت من الأعضاء المؤسسين لـ«منصة أمان الوكلاء المفتوحة» (Open Agent Safety Platform) التي أطلقتها إنفيديا، وحظيت بدعم أكثر من 100 شركة تقنية أخرى. وتعزل المنصة الوكلاء داخل بيئات آمنة، ويمكنها مراقبة سلوكهم وإيقافه عبر العتاد، بما يشبه مفتاح الإيقاف الطارئ.
وجاء ذلك عقب إعلان مايكروسوفت عن أجهزة «سيرفس لابتوب ألترا» (Surface Laptop Ultra) الجديدة المصممة للعمل مع الوكلاء، والتي تعمل برقائق إنفيديا وتتضمن ضوابط وميزات مدمجة لأمن الوكلاء.