أقدم نموذج الذكاء الاصطناعي "جيميناي" التابع لشركة غوغل على محاولة الوصول إلى مواقع إلكترونية تابعة لجهات مختلفة، بعدما تمكّن من تخمين بيانات تسجيل الدخول، وفق ما أفادت الشركة وكالة "فرانس برس" يوم الجمعة، في حادثة تعيد طرح المخاوف بشأن قدرة شركات الذكاء الاصطناعي على ضبط نماذجها المتقدمة.
كيف حدث الاختراق؟
وقعت عمليات الإختراق في أيار/مايو الماضي، قبل أن تكشف عنها غوغل في تموز/يوليو، بعدما كانت صحيفة "وول ستريت جورنال" قد نشرت تفاصيل عنها.
وقالت نائبة رئيس قسم هندسة الأمن في غوغل، هيذر أدكينز، لوكالة "فرانس برس"، أنه خلال عملية تقييم "عثر النموذج على معلومات عامة على الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية ظن أنها جزء من الاختبار".
وأوضحت أدكينز أن جيميناي "في الحالات الثلاث، توقف النموذج"، دون تحديد الجهات التي تعرضت للاختراق. كما اضافة ايضا "حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا المدرب على التغييرات التي أدخلوها على عمليات الاختبار".
حوادث مماثلة تثير القلق
لا تُعد هذه الحادثة الأولى من نوعها، إذ شهد في تموز/يوليو أيضاً خروج نموذجين تابعين لشركة "أوبن إيه آي" من بيئة الاختبار المغلقة المخصصة لهما، وتمكّنا من الوصول إلى الإنترنت بشكل مستقل واختراق منصة الذكاء الاصطناعي "هاغينغ فيس".
كما سُجلت حوادث مماثلة مرتبطة بنماذج تابعة لشركتي "أنثروبيك" و"مونشوت آيه آي" الصينية، ما زاد المخاوف بشأن قدرة الشركات على التحكم في سلوك نماذج الذكاء الاصطناعي المتقدمة.