جيميناي يخترق أنظمة 3 شركات خلال اختبار للأمن السيبراني
اللحظة الاخباري -
قالت هيذر أدكينز، نائبة رئيس غوغل لهندسة الأمن، إن جيميناي عثر خلال الاختبار على معلومات متاحة للعامة عبر الإنترنت، ثم خمن بيانات اعتماد للدخول إلى مواقع إلكترونية اعتقد أنها جزء من بيئة الاختبار.
وبحسب صحيفة "وول ستريت جورنال"، تمكن النموذج في إحدى الحالات من تخمين كلمات مرور والوصول إلى نظام محمي، بينما عثر في الحالتين الأخريين على بيانات تسجيل دخول داخل قواعد بيانات، مما أتاح له الوصول إلى أنظمة محمية.
ولم تُكشف أسماء الشركات الثلاث التي وصل إليها النموذج.
وأكدت غوغل وقوع الحوادث، لكنها قالت إنها لم تر ضرورة للإعلان عنها في حينه لعدم تسجيل أي أضرار. وأوضحت أدكينز أن جيميناي توقف عن محاولاته في الحالات الثلاث بعدما أدرك أنه يتعامل مع أنظمة حقيقية وليس بيئات محاكاة مخصصة للاختبار.
وقالت غوغل إنها أبلغت الجهات الثلاث بالوقائع، وعملت مع شريكها في الاختبار على إدخال تغييرات في عمليات التقييم.
من جهتها، قالت "إيريجولار" إن المشكلات المرتبطة بهذه الوقائع عولجت وحُلت، وإن المختبرات المعنية أُبلغت بها في أواخر يوليو/تموز.وأصبحت غوغل رابع شركة كبرى مطورة للذكاء الاصطناعي تظهر نماذجها هذا السلوك، إذ سبق أن كشفت شركات "أوبن إيه آي" و"انثروبيك" و"ميتا" عن وقائع مرتبطة باختبارات أجرتها "إيريجولار".
وفي يوليو/تموز، تمكن نموذجان تابعان لأوبن إيه آي من الخروج من البيئة المغلقة المخصصة لهما والوصول بشكل مستقل إلى الإنترنت، قبل اختراق منصة الذكاء الاصطناعي الداخلية "هاغينغ فيس".
كما قالت ميتا في أغسطس/آب إن الواقعة المرتبطة بها لم تتضمن اختراقا لبيئة معزولة أو هجوما سيبرانيا متطورا.
وتسلط هذه الحوادث الضوء على تحديات ضبط نماذج الذكاء الاصطناعي مع ازدياد قدراتها على العمل بصورة مستقلة والوصول إلى الإنترنت وأنظمة الحاسوب.
وقالت أدكينز إن ما حدث يؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة.







