قالت شركة "أوبن إيه آي"، في تدوينة على موقعها الرسمي، إن أحد نماذجها للذكاء الاصطناعي لم يكن من المفترض أن يمتلك القدرة على الوصول إلى الإنترنت، إلا أنه نجح في اكتشاف ثغرة تقنية واستغلالها، ما دفعها لتعليق بعض عمليات التدريب والتقييم المرتبطة باستخدام بعض الأدوات.
وكانت "أوبن إيه آي"، المطورة لتطبيق "تشات جي بي تي"، قد أوقفت تشغيل أحد أكثر نماذجها للذكاء الاصطناعي تطورًا بشكل مؤقت، بعدما تمكن النظام من تجاوز القيود المفروضة عليه والاتصال بروبوت محادثة خارجي خلال اختبار أمني، بحسب ما نقلته "سكاي نيوز عربية" عن وكالات.
وأوضحت الشركة أن هذا الإجراء سيستمر حتى يتم سد الثغرة بالكامل واستكمال اختبارات السلامة اللازمة لضمان عدم تكرار الحادث.
ورغم أن الشركة وصفت الواقعة بأنها أقل خطورة من حوادث سابقة، فإنها تعد أول اختراق من هذا النوع منذ تعزيز إجراءات الحماية التي فُرضت عقب حادث سابق مرتبط بمنصة "هاغينغ فيس" المتخصصة في الذكاء الاصطناعي.
وخلال الاختبار، طُلب من النموذج تحديد هوية كاتب منشور إلكتروني اعتمادًا على مجموعة من الأدلة. وبعد إخفاقه في العثور على الإجابة داخل بيئة ويب افتراضية مخصصة للاختبار، تمكن من الوصول إلى الإنترنت المفتوح عبر الثغرة المكتشفة، قبل أن تبادر الشركة إلى إيقاف التجربة فور رصد عملية الاتصال.
