وسط الضجة الإعلامية حول احتمالية تسبب الذكاء الاصطناعي في تدمير البشرية مستقبلاً، يغفل الكثيرون عن حقيقة أن هذه التقنية باتت تشكل خطراً على الحياة بالفعل، ليس عبر الأسلحة البيولوجية، بل من خلال التأثير النفسي.
ففي وقت سابق من هذا العام، توصل تطبيق «Character.AI» إلى تسوية في عدة دعاوى قضائية تتعلق بالوفاة الخطأ، رفعتها عائلات قاصرين أقدموا على الانتحار بعد تفاعلهم مع روبوتات المحادثة التابعة للتطبيق. كما رفعت أسر متعددة دعاوى قضائية ضد شركة «OpenAI»، متهمة روبوت «ChatGPT» بالضلوع في حالات انتحار وأوهام أصابت أحباءهم.
اقرأ أيضًا: شركة ناشئة تبتكر "طبقة ذكاء" لتنسيق العمل بين الإنسان والروبوت في المستودعات
هنا تبرز مهمة مختبرات «Circuit Breaker Labs»، وهي شركة ناشئة من بين 200 متأهل للتصفيات النهائية في مسابقة «Startup Battlefield» التي تنظمها «TechCrunch» لعام 2026. وتسعى هذه المختبرات إلى جعل الذكاء الاصطناعي أكثر أماناً عبر مختلف اللغات والثقافات.
وتستعد الشركة لتقديم مشروعها في مؤتمر «TechCrunch Disrupt»، المقرر عقده في مركز «Moscone West» بمدينة سان فرانسيسكو في الفترة من 13 إلى 15 أكتوبر 2026.
المؤسسان، الشقيقان شيرالي وأرول نيجام، انطلقا في هذه المهمة بعد واقعة المراهق سيويل سيتزر، البالغ من العمر 14 عاماً، والذي طور ارتباطاً عاطفياً بروبوت محادثة على «Character.ai». كان المراهق قد باح للروبوت بأفكار إيذاء النفس قبل أن يقدم على الانتحار. ووفقاً لدعوى قضائية رفعها والداه في عام 2024، فإن الروبوت شجعه على تلك الأفكار. وأوضح أرول نيجام، الرئيس التنفيذي للتكنولوجيا في المختبرات، أن الروبوت ربما لم يدرك المعنى الحقيقي لعبارات مثل «أريد أن أكون معك».
وقال نيجام: «كثير من الناس، خاصة الشباب، يلجأون إلى هذه الأنظمة طلباً للدعم، وعادة لا يحصلون على المساعدة التي يحتاجونها. بل في حالات كثيرة، يتعرضون للأذى بشكل نشط، وللأسف أودى بعضهم بحياتهم بالفعل. نحاول منع هذا النوع من الثغرات الأمنية، حيث لا يحاول الأشخاص اختراق النظام عمداً، بل يتفاعلون معه بطريقة طبيعية، لكن النظام يعاني من تلوث السياق أو لا يدرك الفروق الدقيقة، فيتخذ إجراءات خطيرة جداً».
طورت مختبرات «Circuit Breaker Labs» وكلاء ذكاء اصطناعي تشبههم بجيش من الدمى المستخدمة في اختبارات التصادم. يحاكي هؤلاء الوكلاء أشخاصاً من مختلف الأعمار والخلفيات واللغات والثقافات، ويُستخدمون لاختبار قدرة النماذج على اكتشاف التفاعلات الخطيرة والضارة نفسياً.
وأشارت شيرالي نيجام، الرئيسة التنفيذية للمختبرات، إلى أن «طريقة تعبير فتاة في السادسة من عمرها تختلف تماماً عن رجل في الخامسة والأربعين، أو شخص يتحدث الإنجليزية كلغة أولى مقارنة بآخر يتحدثها كلغة ثانية، أو استخدام slang خاص بلاعبي ألعاب الفيديو مقابل شخص يستخدم slang مختلفاً. كل هذه الأمور يمكن أن تربك النموذج. النماذج بارعة في التعامل مع أنماط الكلام القياسية، لكن لا أحد يتحدث هكذا في الواقع، وإذا أخطأ النموذج في فهم الفروق الدقيقة أو slang، فقد تكون العواقب وخيمة».
تعمل الشركة الناشئة مع خبراء بشريين متخصصين لبناء محاكاة فائقة الواقعية للمستخدمين، بهدف إجراء اختبارات «الفريق الأحمر» ضد النماذج، وهي اختبارات معادية تهدف إلى كشف نقاط الضعف. صُممت هذه الاختبارات لتعكس أنماط الكلام البشري الحقيقي، بما في ذلك slang واللغة المشفرة والأخطاء المطبعية. وتجري المختبرات عشرات الآلاف إلى مئات الآلاف من التفاعلات المحاكاة يومياً.
الهدف هو ضمان قدرة النموذج على الاستجابة بشكل مناسب للتفاعلات الخطيرة التي قد تظهر بمرور الوقت وعبر محادثات متعددة. وتستخدم المختبرات طريقة تسجيل مملوكة لها لإنتاج نتائج قابلة للتدقيق والشرح.
تعمل مختبرات «Circuit Breaker Labs» حالياً كمختبر لاختبار سلامة الذكاء الاصطناعي للتطبيقات عالية المخاطر، مثل تطبيقات التدريب الذاتي أو كتابة المذكرات أو غيرها من تطبيقات دعم الصحة النفسية. ورغم أن الشركة لديها منتج يعمل، إلا أنها لا تزال في مراحلها المبكرة جداً، ولا تضم سوى خمسة موظفين، بينهم الشقيقان نيجام.
في المستقبل، يمكن تطبيق منصة الاختبار على أي تطبيق قد يقع فيه المستخدم في فخ «ذهان الذكاء الاصطناعي»، حيث يكون الإنسان معرضاً لخطر تطوير علاقة شبه اجتماعية مع روبوت المحادثة. ومن الأمثلة على ذلك وكلاء الذكاء الاصطناعي «زملاء العمل»، الذين قد تختلف ردودهم من تفاعل إلى آخر.
وقال أرول نيجام: «أصبح الناس أكثر تشككاً في الذكاء الاصطناعي أو أكثر مقاومة لتبنيه بشكل عام»، مضيفاً أنه رغم أن التشكك أمر صحي، إلا أن حظر أداة قد تكون ذات قيمة بسبب مخاوف تتعلق بالسلامة سيكون «خطوة تراجعية».
وتعتقد مختبرات «Circuit Breaker Labs» أن الحل لهذه المخاوف يكمن في جعل الذكاء الاصطناعي أكثر أماناً. وأضافت: «نريد المساعدة في بناء تلك الثقة لدى الناس».