أعلنت شركة أوبن إيه آي، يوم الاثنين، أنها ستبدأ إضافة علامة مائية غير مرئية إلى النصوص التي ينتجها نموذجا شات جي بي تي وكودكس داخل الاتحاد الأوروبي، وذلك بهدف الامتثال لقانون الذكاء الاصطناعي الأوروبي.
قواعد الشفافية التي ينص عليها قانون الذكاء الاصطناعي الأوروبي، والتي دخلت حيز التنفيذ في الثاني من أغسطس، تفرض على شركات الذكاء الاصطناعي وضع علامات على المحتوى المُنشأ آلياً بطريقة تمكن الأنظمة الأخرى من التعرف عليه.
اقرأ أيضًا: باحثون يتعقبون "أسطول وكلاء" صيني يعمل على الإنترنت
وأوضحت أوبن إيه آي أن العلامة المائية سيتم طرحها تدريجياً خلال الأسابيع المقبلة للمستخدمين المؤهلين في خطط شات جي بي تي وكودكس جميعها، ولكن فقط داخل دول الاتحاد الأوروبي. أما المطورون الذين يستخدمون واجهة برمجة التطبيقات الخاصة بالشركة في أي مكان في العالم، فيمكنهم تفعيل هذه الميزة على نماذج مختارة اعتباراً من اليوم، على أن تكون معطلة بشكل افتراضي. وأكدت الشركة أنها لن تجعل العلامة المائية للنصوص خياراً عالمياً افتراضياً عند الإطلاق.
لا تمثل العلامة المائية رمزاً مرئياً، بل تعمل عبر التأثير بشكل غير مباشر على اختيارات النموذج للكلمات، تاركةً نمطاً لا يستطيع القارئ رؤيته، لكن جهاز الكشف يمكنه التقاطه. ونظراً لأن هذه العلامة توجد داخل الكلمات نفسها، فإنها تنتقل مع النص عند نسخه ولصقه. وأفادت أوبن إيه آي أن العلامة المائية لا تحدد هوية المستخدم، وأنها لم تلاحظ أي تغيير جوهري في أداء نماذجها عند تفعيلها.
نشرت أوبن إيه آي أيضاً تقريراً تقنياً عن طريقتها المسماة "تيكست غرين" (textGrain) بالتزامن مع الإعلان. وقد أعد التقرير بالتعاون مع باحثين من جامعة بنسلفانيا وجامعة ييل، ويشرح مثالاً على استخدام مفتاح سري لفرز توقعات الكلمة التالية لإكمال الجملة. وعند إضافة المئات من هذه التوجيهات معاً، يمكن لجهاز الكشف تحديد المحتوى المُنشأ بالذكاء الاصطناعي باستخدام النص والمفتاح فقط.
تشير اختبارات أوبن إيه آي إلى أن العلامة المائية يمكن إزالتها عبر التحرير. ففي أحد الاختبارات، أدى استبدال 10% من الكلمات بمرادفاتها إلى انخفاض معدل الكشف من حوالي 92% إلى 66%. كما قالت الشركة إن المقاطع النصية القصيرة، والإجابات الرياضية، والنصوص المترجمة يصعب كشفها.
صرحت الشركة قائلة: "تساهم هذه القيود في قرارنا بتوفير الوصول الأولي إلى جهاز الكشف فقط للباحثين المعتمدين والمنظمات المتخصصة، الذين يمكنهم مساعدتنا في تقييم الموثوقية والاستخدامات المسؤولة".
كما حذرت أوبن إيه آي من أن غياب العلامة المائية "لا يثبت أن النص من تأليف بشري"، فقد يكون النص قصيراً جداً أو تم تحريره بشكل كبير، أو قد يكون من إنتاج ذكاء اصطناعي لشركة أخرى.
وأضافت الشركة: "يمكن للعلامات المائية أن تشير إلى أن نظام أوبن إيه آي أنتج أو عالج جزءاً من النص، ولكن ليس مقدار الحكم البشري أو التحرير أو الإبداع الذي دخل فيه".
يأتي هذا الإعلان بعد شهرين من إعلان شركة أنثروبيك أنها ستضع علامة مائية على النصوص التي ينتجها نموذجها كلود، وهي خطوة تطبقها على مستوى العالم. وقد أثار ذلك القرار ردود فعل غاضبة من بعض مستخدمي كلود، الذين جادلوا بأنهم هم من قدموا "التعليمات والسياق والقرارات" بينما كان كلود مجرد "الأداة".
كانت أوبن إيه آي قد طورت علامة مائية للنصوص سابقاً لكنها امتنعت عن إطلاقها، جزئياً بسبب مخاوف من أن يتحول المستخدمون إلى منافسين لا يستخدمون العلامات المائية، وفقاً لما ذكرته صحيفة وول ستريت جورنال في عام 2024.
تعد شركات أنثروبيك، وجوجل، وميتا، ومايكروسوفت، وأوبن إيه آي من بين الشركات التي التزمت باتباع مدونة الممارسات الأوروبية بشأن المحتوى المُنشأ بالذكاء الاصطناعي.