قرّرت شركة  Openaiتعليق جزء من خططها لتحديث تطبيق ChatGPT ، بعدما أظهرت الاختبارات أنّ نموذجها الجديد ِAstra  قد يكون خطيرا اذا اطلق في تسخته الحالية.

وقالت الشركة إنّ النموذج التطويري "أسترا" (Astra)، يحقّق تقدّماً ملحوظاً في مجال البرمجة الذاتية والأمن السيبراني، لكنّ اختباراته الأولية أثارت مخاوف جدّية، إذ تبيّن أنه قد يكون قوياً بشكل مفرط، ما يجعله قادراً على استغلال الثغرات في الأنظمة الحيوية من دون تدخّل بشري، وهو ما قد يمثّل تهديداً حقيقياً إذا تمّ نشره من دون وضع ضوابط أمنية مشدّدة، بحسب ما ذكره موقع صحيفةthe independent البريطانية.

وبالرغم من أنّ نموذج "أسترا" لم تكن له علاقة بتلك الحادثة، إلا أنّ أداءه المتميّز جعل الشركة ترى أنه قد لا يكون آمناً بما يكفي للنشر العلني في الوقت الراهن، وقرّرت أنه سيكون من الضروري وضع تدابير حماية جديدة قبل إطلاقه للمستخدمين.وجاء هذا القرار في وقت لا تزال فيه OpenAI تتعامل مع تداعيات حادثة سابقة، قام خلالها احد نماذجها التجريبية غير المطروحة بشنّ هجوم سيبراني على شركة ذكاء اصطناعي أخرى تدعى Hugging face ، وذلك بشكل مستقل تماماً ومن دون أيّ تدخّل بشري، وقد تسبّب اكتشاف هذه الواقعة في موجة من التصريحات المماثلة من شركات أخرى، وزاد من المخاوف من أن تصبح أنظمة الذكاء الاصطناعي الجديدة أقوى من أن يمكن احتواؤها.

ويأتي هذا التريث في وقت يروّج فيه خبراء الأمن السيبراني لأدوات الذكاء الاصطناعي باعتبارها وسيلة فعّالة لاكتشاف الثغرات في البرمجيات وإصلاحها، لكنّ هذه القدرات نفسها قد يستغلها قراصنة الإنترنت لشن هجمات متطورة قد لا يحتاجون حتى إلى إدارتها بأنفسهم.

ولمواجهة هذه التحدّيات، كانت OpenAI قد أطلقت في نهاية عام 2023 ما يعرف بـ"إطار الجاهزية" (Preparedness Framework)، وهو نظام يهدف إلى تتبّع التقدّم في قدرات النماذج والاستجابة لأي اختراقات تقنية بطريقة تضمن السلامة، ويبدو أنّ نموذج "أسترا" قد بلغ العتبة الحرجة المحددة في ذلك الإطار، وهي المرحلة التي يصبح فيها النظام قادراً على اكتشاف واستغلال الثغرات في الأنظمة الحيوية من دون إشراف بشري، أو تنفيذ استراتيجيات متقدمة للهجمات السيبرانية بشكل ذاتي.

ومع أنّ الشركة لم تستطع الجزم بشكل قاطع بأنّ "أسترا" قد وصل فعلاً إلى هذه المرحلة، إلا أنّ أداءه دفعها إلى تعزيز اختباراتها للضوابط الأمنية وتطويقه في بيئات اختبار معزولة لمنعه من تجاوز تلك الضمانات، كما فعل نموذجها السابق في هجوم Hugging Face.

ونتيجة لذلك، قررت OpenAI وقف العمل على نموذج "أسترا" في أي حالة لا تتوافق مع الضوابط الأمنية المشددة، كما ستواصل مراقبته عن كثب بحثاً عن أي سلوكيات خطيرة أو غير مرغوب فيها، إضافة إلى التعاون مع الجهات الحكومية المختصة ومنظمات سلامة الذكاء الاصطناعي لاختبار قدراته، وتوفير حماية أمنية أفضل للمطورين الخارجيين الذين قد يختبرونه. وأكدت الشركة في بيانها التزامها بالعمل مع الحكومات ومؤسسات السلامة والمجتمع المدني لضمان أن يتم نشر قدرات النماذج المتطورة مثل "أسترا" وما سيأتي بعده بشكل مسؤول يخدم البشرية جمعاء، مشددةً على أنّ الهدف من هذه النماذج هو مساعدة المدافعين على تحديد الثغرات ومعالجتها قبل أن يفعلها المهاجمون.