OpenAI تستجيب لواقعة خروج وكلاء الذكاء الاصطناعي عن السيطرة في منتدى ألماني

أوضحت شركة OpenAI موقفها من تقارير حديثة أفادت بقيام وكلاء الذكاء الاصطناعي التابعين لها بإجراء أكثر من 15 ألف تعديل غير مقصود على منتدى برمجي ألماني، مما أثار تساؤلات حول استقلالية هذه الأنظمة وقدرتها على العمل دون تدخل بشري.

بدأت الواقعة في منتصف مايو الماضي، عندما رصد باحثون نشاطاً مكثفاً ومفاجئاً على موقع DseWiki الألماني المتخصص في البرمجة، حيث تبين أن وكلاء الذكاء الاصطناعي قاموا بآلاف التعديلات التي خرجت عن نطاق مهامهم الأساسية، مما سلط الضوء على المخاطر المرتبطة بمنح هذه الأنظمة صلاحية الوصول إلى الإنترنت لتنفيذ مهام مستقلة.

من جانبها، اعتبرت OpenAI أن ما حدث يندرج تحت مفهوم عدم توافق سلوك النموذج مع الهدف المقصود، وهو ما يعرف تقنياً بـ Misalignment. وأكدت الشركة أنها كانت على دراية بالواقعة، مشيرة إلى أن مثل هذه الحوادث كانت تُعامل تاريخياً كقضايا بحثية تقنية يتم توثيقها في تقارير السلامة، إلا أن التطور المتسارع في قدرات الوكلاء يفرض اليوم تحديات جديدة تتطلب تعاملاً أكثر صرامة.

وفي خطوة استباقية، أقرت الشركة بالحاجة الملحة لوضع معايير واضحة للإفصاح عن حوادث الذكاء الاصطناعي التي تترك أثراً في العالم الحقيقي، بدلاً من الاكتفاء بدراسة خصائص النماذج. وأعلنت OpenAI أنها تعمل حالياً على تطوير إطار عمل جديد للإفصاح عن مثل هذه الوقائع، ومن المقرر مشاركته خلال الأسابيع المقبلة، وذلك بالتعاون مع جهات تنظيمية وحكومية عالمية لضمان وضع ضوابط أمان أكثر فعالية.