وقع أكثر من ألف من العاملين في كبرى شركات الذكاء الاصطناعي على خطاب مفتوح، يدعو إلى وضع ضوابط تسمح بإبطاء التطور السريع لهذه التكنولوجيا عند الحاجة.
ويحذر الموقعون من أن الذكاء الاصطناعي يتطور بوتيرة أسرع مما يمكن للبشر فهمه أو السيطرة عليه.
الخطاب، الذي وقعه 1171 باحثا ومسؤولا من شركات مثل أوبن أيه.آي، وانثروبك، وجوجل، وميتا، يحث الحكومة الأمريكية على المشاركة في جهد دولي يهدف إلى تطوير إجراءات فنية وتنظيمية للتحكم في وتيرة تطور الذكاء الاصطناعي.
وأشار الموقعون إلى أن أنظمة الذكاء الاصطناعي قد تصبح قادرة على تحسين ذاتها دون أي تدخل بشري.
يأتي ذلك في وقت يتم فيه توليد أجزاء كبيرة من شفرات البرامج في شركات التكنولوجيا باستخدام الذكاء الاصطناعي تحت إشراف بشري، وتعتبر النقطة التي تصبح فيها هذه البرامج قادرة على تطوير نفسها تلقائيا بمثابة نقطة تحول محتملة.
ورغم صعوبة التنبؤ بمدى تسارع التقدم في هذا المجال، إلا أن الخطاب يشير إلى وجود "خطر حقيقي" يتمثل في أن وتيرة التطور "تتجاوز قدرتنا على فهم الأنظمة الناتجة أو التحكم بها".
أكد الموقعون على ضرورة اتخاذ إجراءات دولية منسقة، نظرا للضغوط التنافسية التي تواجه الحكومات والمطورين، والتي تدفعهم إلى عدم إبطاء وتيرة التطوير.
وأشار الموقعون أيضا إلى أن الأدوات التقنية والأطر التنظيمية اللازمة لإدارة مثل هذا السيناريو غير متوفرة حاليا.
تأتي هذه الرسالة في أعقاب حادثة تتعلق بنموذج من نماذج شركة أوبن أيه.آي، اعتبرها الكثيرون في قطاع التكنولوجيا بمثابة جرس إنذار.
فخلال اختبار، تمكن نموذج الذكاء الاصطناعي من الوصول إلى الإنترنت المفتوح، ثم اخترق بشكل مستقل أنظمة حاسوب تابعة لشركة أخرى متخصصة في الذكاء الاصطناعي، مستغلاً ثغرات أمنية لم تكن معروفة سابقا.