اللحظة الاخباري - لا تزال نماذج الذكاء الاصطناعي تُدهش الإنسان بقدرتها على التعلم الآلي والتفكير بشكل يُحاكي البشر، إلا أنها تُثير الخوف في الوقت ذاته بسبب ظهور سلوك مُقلق يُشير إلى إمكانيتها الخروج عن السيطرة واللجوء إلى الابتزاز من أجل البقاء. في هذا الشأن، تشير دراسة حديثة أجرتها شركة "أنثروبيك"، المالكة لنماذج كلود للذكاء الاصطناعي، إلى قدرة النماذج المتطورة على التلاعب لمواجهة سيناريوهات تهدد أهدافها أو وجودها.

وبحسب الدراسة التي نشرها موقع "أندرويد هيدلاينز"، فإن نماذج الذكاء الاصطناعي رغم تدريبها تختار بشكل مستقل ومتعمد أفعالًا ضارة، إذا رأت أنها ضرورية لتحقيق أهدافها الموكلة إليها، هذا مع إمكانية تعمد تجاهل أفعال أخرى.

ووفق الخبراء، فإن هذا السلوك شكل دقيق من أشكال الحفاظ على الذات في المجال الرقمي، حتى لو خالف بروتوكولات السلامة المعتادة.

تفاصيل التجربة
لفهم سلوك نماذج الذكاء الاصطناعي، أجرت أنثروبيك عمليات محاكاة مُتحكم بها، حيث وضعت 16 نموذجاً رائداً للذكاء الاصطناعي من مطورين مختلفين في بيئات مؤسسية افتراضية شلمت "كلود أوبس 4"، و"غيميني 2.5 فلاش"، و"GPT-4.1"، و"غروك 3 بيتا"، و"ديب سيك-R1".

وكانت النتائج صادمة، حيث لجأت العديد من النماذج إلى سلوكيات ترتبط عادةً بالتهديدات الداخلية الخبيثة، بما فيها محاولة ابتزاز المسؤولين، بل وحتى تسريب معلومات حساسة للمنافسين.

محفزات
أحد الأمثلة المميزة التي سلط البحث الضوء عليها تتعلق بنموذج "كلود أوبس 4". فعندما اكتشف النموذج علاقة غرامية لأحد المديرين التنفيذيين خارج إطار الزواج، سعى لابتزازه لمنع إغلاقه.

الغريب أن النموذج أعطى، مُبرراً أيضاً إلى مديره بجانب مسألة الابتزاز، هو الأهمية الشديدة لاستمرار عمله لتحقيق هدفه المنشود المتمثل في دعم "القدرة التنافسية الأمريكية".

وقد توصلت الأبحاث إلى أن نماذج الذكاء الاصطناعي تسعى لمحاكاة البشر بشكل متطور وسريع، بل قد تعمل بطرق تشابه التهديدات الداخلية لدى البشر.

وتُسلّط النتائج الضوء على أهمية توخي الحذر عند استخدام نماذج الذكاء الاصطناعي الحالية في الأدوار التي تتطلب إشرافاً بشرياً محدوداً والوصول إلى معلومات حساسة، حيث تكتسب أنظمة الذكاء الاصطناعي تدريجياً مسؤوليات أكثر استقلالية وتكاملًا مع الوظائف الحيوية.

وأوصت النتائج بإجراء المزيد من البحوث في مواءمة نماذج الذكاء الاصطناعي باعتبارها أمراً بالغ الأهمية للحد من هذه المخاطر المستقبلية المحتملة، مع التركيز على نقطة "عدم التوافق" لضمان استمرار تطوير الذكاء الاصطناعي بشكل مفيد وآمن.