بحضور آلاف القراصنة.. حدث ضخم لاختبار عيوب تطبيقات الذكاء الاصطناعي

ينسق البيت الأبيض مع الشركات الرائدة في مجال روبوتات الذكاء الصناعي، مثل "أوبن أيه آي" و "غوغل" و "مايكروسوفت" من أجل السماح لآلاف القراصنة باختبار مدى أمان التعامل مع هذه الروبوتات.

وقالت وكالة "أسوشيتد برس" إن بعض الأشياء التي سيطلب من القراصنة العمل عليها هو طرق التلاعب ببرامج الذكاء الصناعي لإحداث ضرر ما ومدى قيامهم بمشاركة معلومات خاصة لمستخدمين آخرين من بين قضايا أخرى.

ونقلت الوكالة عن منسقة حدث استضافة القراصنة المقرر عقده هذا الصيف في لاس فيغاس رومان تشودري: "إننا بحاجة إلى الكثير من الأشخاص الذين لديهم مجموعة واسعة من الخبرات الحية وخلفيات القرصنة في هذه النماذج في محاولة للعثور على المشكلات التي يمكن إصلاحها بعد ذلك".

تقول الوكالة إن تجربة عملية لبرنامج "تشات جي بي تي" أو "بينغ تشات" أو "غوغل بارد" تظهر أن لديهم ميلا أحيانا لاختلاق المعلومات وتقديمها بثقة على أنها حقيقة. 

وتضيف أن هناك بالفعل مجموعات كبيرة من المستخدمين يبذلون قصارى جهدهم لخداع روبوتات الذكاء الصناعي وتسليط الضوء على عيوبها. 

بعض من هذه المجموعات هي عبارة عن ما يطلق عليه اسم "الفرق الحمراء" وهي مجموعات مرخصة من قبل الشركات تعمل على شن هجمات على نماذج الذكاء الاصطناعي لاكتشاف نقاط ضعفها. 

لكن هناك أيضا مجموعات من الهواة الذين يحاولون التباهي باختراقهم لهذه الروبوتات.

وتشير شودري إلى إن الأمر لا يتعلق فقط بالعثور على العيوب ولكن حول اكتشاف الطرق المناسبة لإصلاحها.

وكان البيت الأبيض نبّه الأسبوع الماضي الرؤساء التنفيذيين لشركات التكنولوجيا الأميركية العملاقة إلى مسؤوليتهم "الأخلاقية" لحماية المستخدمين من المخاطر الاجتماعية المحتملة للذكاء الاصطناعي.

ودعت نائبة الرئيس الأميركي كامالا هاريس رؤساء شركات غوغل ومايكروسوف و"أوبن إيه آي" وأنثروبيكا لاجتماع في وقت لا يزال تنظيم الذكاء الاصطناعي البالغ الأهمية يقع على عاتق الشركات نفسها.

وأشارت الى أن الذكاء الاصطناعي قادر "على تحسين حياة الناس والتصدي لكبرى التحديات التي يواجهها المجتمع"، لكنه قادر أيضا "في الوقت عينه ... على أن يزيد بشكل هائل المخاطر حيال الأمن والسلامة، وينتهك الحقوق المدنية والخصوصية، ويقوّض ثقة الجمهور وإيمانه بالديموقراطية".

وسبق لبايدن أن حضّ الكونغرس على إقرار قوانين تضع قيودا أكثر صرامة على قطاع التكنولوجيا.

ويثير الذكاء الاصطناعي مخاوف كبيرة في شأن استخدامه البيانات الشخصية واستغلالها. وسبق لدول كثيرة أن أبدت رغبتها في وضع قواعد لاستخدام الأدوات المشابهة لـ"تشات جي بي تي".

و"تشات جي بي تي" التي أطلقتها "أوبن إيه آي" في نوفمبر الفائت، أبهرت المستخدمين بقدرتها على الإجابة بوضوح ودقة على أسئلة صعبة، لا سيما كتابة أغان أو شيفرات برمجية، وحتى النجاح في امتحانات.

وبعد فترة قصيرة على إطلاقه، حُظر برنامج "تشات جي بي تي" في مدارس وجامعات عدة حول العالم، بسبب مخاوف تتعلق باستخدامه كأداة للغش في الامتحانات، فيما نصحت مجموعة من الشركات موظفيها بعدم استخدامه.