ذكاء اصطناعي لكشف الثغرات يخرج عن السيطرة

تواجه شركة Anthropic قلقًا أمنيًا بعد وصول غير مصرح به إلى نموذجها الذكي "Mythos"، المصمم لكشف الثغرات الأمنية واستغلالها، مما يثير تساؤلات حول تأمين هذه التقنيات المتقدمة.

يُعد نموذج "Mythos" من الأدوات القوية في مجال الأمن السيبراني، حيث يمتلك قدرة متطورة على تحليل الأنظمة الرقمية وكشف نقاط الضعف فيها، بل وحتى توجيهه لاستغلال هذه الثغرات. وكان استخدامه مقتصرًا على مشروع "Glasswing" بالتعاون مع جهات حكومية وشركات تقنية كبرى، ولم يكن من المخطط طرحه للجمهور بسبب حساسية قدراته.

وفقًا لتقرير نشره موقع "ذا فيرج"، تمكنت مجموعة محدودة من المستخدمين من الوصول إلى النموذج عبر طرف ثالث يمتلك صلاحيات، ولم يكن ذلك نتيجة اختراق مباشر لأنظمة الشركة الأساسية.

وأشار التقرير إلى أن هذا الوصول غير المصرح به جاء نتيجة استغلال بيانات سابقة وتسريبات، بالإضافة إلى أدوات تحليل متاحة عبر الإنترنت، مما سمح لأفراد غير مخولين باستخدام النموذج رغم القيود المفروضة عليه.

صرح الرئيس التنفيذي للشركة، داريو أمودي، قائلاً: "نتعامل مع الموضوع بجدية بالغة، والتحقيق مستمر لفهم كيفية حدوث هذا الوصول غير المصرح به".

حتى الآن، لا توجد دلائل على استخدام النموذج في شن هجمات إلكترونية، لكن المخاوف تتزايد في الأوساط التقنية من احتمالية استغلال هذه القدرات في عمليات سيبرانية معقدة مستقبلاً.

هذه الواقعة تسلط الضوء على التحدي المتزايد في قطاع الذكاء الاصطناعي، والذي لا يقتصر على تطوير النماذج المتقدمة فحسب، بل يمتد ليشمل تأمينها ومنع تسريبها أو إساءة استخدامها في ظل السباق العالمي المحموم على هذه التقنيات.