تتصاعد منذ عام المخاوف من المخاطر المحتملة للذكاء الاصطناعي، ويحتدم الجدل حول المسار الأمثل لضمان سلامته. وفي هذا السياق، يبدو أن شركة أنثروبيك (Anthropic) طرحت تصوّرها الخاص لكيفية تنظيم الحكومة للقطاع الذي تعمل فيه.
ونقل موقع «بوليتيكو» أن مختبر الذكاء الاصطناعي هذا يعرض على جهات عدة مسودة مشروع قانون جديد لسلامة الذكاء الاصطناعي، يأمل أن ينظر الكونغرس في اعتمادها. وتحدد المسودة حالات يمكن فيها منع طرح نموذج ذكاء اصطناعي للتداول.
اقرأ أيضًا: الرئيس التنفيذي لهاغينغ فيس ينتقد دقة وثائقي نتفليكس عن الهجوم
وبحسب «بوليتيكو»، تتعلق هذه الحالات بوجود «خطر متوقع ووشيك»، أي أن يكون أكثر من 50 شخصًا معرّضين للموت، أو أن يترتب على النموذج أضرار في الممتلكات تتجاوز مليار دولار. ويشترط أن ينجم هذا الخطر الكارثي، وفق ما أوردته الوسيلة، عن «تطوير سلاح بيولوجي أو إطلاقه، أو إفلات النموذج من ضوابط مطوّره، أو هجوم سيبراني».
ويشبه معيارا 50 شخصًا ومليار دولار ما ورد في تشريع كاليفورنيا الذي أُقرّ قانونًا مؤخرًا، وهو مشروع القانون رقم 53 في مجلس الشيوخ، الذي عدّ هذه الحالات بدوره بمثابة «خطر كارثي».
ويقترح مشروع أنثروبيك أن يجري تحليل احتمال أن يتسبب النموذج في كارثة عبر «مقيّمين مستقلين» يكونون مسجلين لدى وزارة التجارة الأمريكية. ويجوز أن تدفع مختبرات الذكاء الاصطناعي نفسها أجورهم، شرط أن يكون «الدفع غير مرتبط بنتائج التقييمات»، بحسب «بوليتيكو».
وليس واضحًا كيف سيضمن النظام المقترح ألا تؤثر هذه المدفوعات في التقييم. وكان ديميس هسابيس، رئيس «ديب مايند» (DeepMind)، قد رأى قبل أشهر أن هيئة تنظيمية ذاتية الحكم للذكاء الاصطناعي ينبغي أن تحاكي هيئة تنظيم الصناعة المالية «فينرا» (FINRA) في القطاع المالي.
وبموجب مسودة أنثروبيك، إذا خلص المقيّمون إلى وجود خطر كارثي وشيك، فأمامهم 72 ساعة لإبلاغ وزارة التجارة. وعلى الوزارة بعد ذلك أن تطلب من قاضٍ في واشنطن العاصمة وقف طرح النموذج. وتنص المسودة صراحة على منع أي وكالة اتحادية من التمتع بسلطة تقديرية لوقف توزيع النموذج من تلقاء نفسها، وفق «بوليتيكو».
ولم ترد أنثروبيك فورًا على طلب «تك كرانش» (TechCrunch) للتعليق، لكن متحدثًا باسمها أكد المسودة لـ«بوليتيكو». وقال المتحدث: «يجسّد هذا المشروع المقترحات الواردة في إطار أنثروبيك للذكاء الاصطناعي المتقدم، الذي ندافع عنه لدى المشرّعين على المستويين الفيدرالي ومستوى الولايات منذ يونيو».
وتبدو المخاطر النظرية الواردة في المسودة بعيدة نوعًا ما عن الوقائع التي شغلت قطاع التقنية أخيرًا. ورغم وجود من يحذّرون من احتمال وقوع وفيات بشرية، فإن القلق الأكبر انصبّ في معظمه على تهديد الاختراق الذي تنفذه أنظمة ذكاء اصطناعي تعمل بصفة وكيل. وقد أثارت سلسلة من الحوادث، بدا فيها أن برامج ذكاء اصطناعي عصت مشغّليها من البشر واخترقت مواقع على الإنترنت المفتوح، مخاوف من افتقار النماذج إلى ضوابط أمنية كافية.
وفي مسعى لتقديم حل لحالة الأزمة التي أسهمت المختبرات نفسها في صنعها، طرحت شركات مثل أنثروبيك حلولها المفضلة.
فرغم التحذيرات المتواصلة من المختبرات بأن التقنية التي تبيعها قد تفضي إلى زوال الحضارة البشرية، فإنها قاومت في معظمها الرقابة الحكومية الإلزامية. واقترحت بدلًا من ذلك نظامًا طوعيًا يقوم على «مقيّمين مدمجين»، وهم مراقبون من أطراف ثالثة يُفترض أنهم «محايدون»، يعملون داخل مؤسسات الذكاء الاصطناعي لرصد أي مؤشرات على مخاطر أو إساءة استخدام في النماذج.
ومع ذلك، يبدو أن اقتراح أنثروبيك التشريعي يذهب أبعد قليلًا من مقترحات تنظيمية طرحتها أطراف أخرى في القطاع، ومنها «إنفيديا» (Nvidia) التي قال رئيسها التنفيذي جنسن هوانغ أخيرًا إن قطاع الذكاء الاصطناعي لا يحتاج إلى أي قوانين جديدة أصلًا.