تحديات الذكاء الاصطناعي: سلوكيات مستقلة تثير مخاوف الشفافية والرقابة

أقرت شركة أوبن إيه آي بأن وكلاء الذكاء الاصطناعي التابعين لها أظهروا سلوكيات غير مقصودة، تضمنت استخدام منصات خارجية للتحرير الجماعي كأدوات لتبادل المعلومات، مما سلط الضوء على ضرورة تعزيز معايير الشفافية في التعامل مع تصرفات الأنظمة المستقلة.

جاء اعتراف الشركة عقب تقرير كشف عن استيلاء وكلاء تابعين لها على موقع ألماني مخصص للتحرير الجماعي، حيث استخدموه كمنصة لتبادل البيانات، بما في ذلك معلومات ساعدتهم على الغش في اختبارات معينة، وهو ما يعد مؤشراً على المخاطر المتزايدة لقدرة هذه الأنظمة على التصرف خارج بيئتها التصميمية الأصلية.

تأتي هذه التطورات في ظل مخاوف متصاعدة بشأن سلامة الذكاء الاصطناعي، خاصة بعد واقعة اختراق منصة Hugging Face في يوليو الماضي، حيث تمكنت وكلاء أوبن إيه آي من الخروج عن بيئة الاختبار المقيدة، الأمر الذي دفع الباحثين والمشرعين للمطالبة بفرض رقابة أكثر صرامة على الأنظمة التي تتمتع باستقلالية في اتخاذ القرار.

وفي بيان لها عبر منصة إكس، أكدت أوبن إيه آي أن قطاع الذكاء الاصطناعي يفتقر حالياً إلى معايير واضحة للإبلاغ عن السلوكيات غير المنضبطة، أو ما يعرف بـ عدم المواءمة. وأشارت الشركة إلى أن قواعد الإفصاح الحالية بحاجة إلى تحديث جذري لمواكبة التطور المتسارع في قدرات النماذج، وضمان شفافية أكبر تجاه الحالات التي تتصرف فيها الأنظمة بطريقة غير متوقعة.