2025-03-11     عدد زوار الموقع: 5694833

تشوه وتسمم ذاتي.. دراسة تكشف خلل مميت في برامج الذكاء الاصطناعي

تكنولوجيا
نشر 2024-08-24 10:47:09
2147
شارك الخبر

اللحظة الاخباري -

  • دراسة: أنظمة ذكاء اصطناعي قد تنهار وتنتج معلومات مشوهة عندما تُدرب على محتوى غير بشري

أحدثت دراسة جديدة ضجة في مجال الذكاء الاصطناعي التوليدي، بعد أن كشفت عن وجود خلل خطير في نماذج اللغة الكبيرة وتوليد المحتوى وبرامج الدردشة، والتي تعتمد على البيانات لتدريبها، قد تعاني من مشكلة "التسمم الذاتي"، حيث يمكن أن يؤدي استخدام بيانات مصطنعة إلى تدهور أدائها بشكل كبير.

وفي الوقت الذي يتوقع فيه معظم الخبراء أن يؤدي تدريب الذكاء الاصطناعي على كميات ضخمة من البيانات إلى تحسين قدراته وتفوقه على البشر مستقبلاً، حذر علماء من جامعة أكسفورد وجامعات أخرى في دراسة نشرت في مجلة "Nature"، من أن البيانات التي تُنتَج بواسطة الذكاء الاصطناعي نفسه قد تجعل هذه الأنظمة غير فعالة.

التسمم الذاتي

وأوضح التقرير الصادر عن "بلومبرغ" واطلعت أن استخدام بيانات تولدها الأنظمة ذاتها يتسبب في تدهور كبير في أداء هذه الأنظمة، في ظاهرة تعرف باسم "انهيار النموذج".

وبفضل الكميات الكبيرة من البيانات التي تعتمد عليها برامج الذكاء الاصطناعي، تمكنت شركات من تطوير برامج قادرة على تقديم إجابات دقيقة لاستفسارات المستخدمين.


لكن في محاولة لإشباع حاجة هذه الأنظمة للبيانات، قام الباحثون مؤخراً بتزويدها ببيانات "مصطنعة" أنشأها الذكاء الاصطناعي نفسه. وقد أظهرت الدراسات أن هذه الأنظمة قد تنهار وتنتج معلومات مشوهة عندما تُدرب على محتوى غير بشري، بحسب الدراسة.

وقد أشار الباحثون إلى أن هذه المشكلة يمكن تشبيهها بـ"تسميم الذكاء الاصطناعي لنفسه".



أخبـــار ذات صلة

الأردن 5 عربيا و49 عالميا بمؤشر جاهزية الحكومات للذكاء الاصطناعي

منذ 6 يوم

"البحوث الزراعية" يوظف التكنولوجيا الحديثة في إجراء البحوث

منذ 6 يوم

مؤسسة ولي العهد تعقد جلسة تثقيفية عن الذكاء الاصطناعي في الأغوار

منذ 1 اسبوع

"إنتاج": 10.7 مليون مستخدم للإنترنت في الأردن بنسبة انتشار 92.5% مطلع 2025

منذ 1 اسبوع

وزيرة النقل: توجه لتركيب 9 بوابات أمنية إلكترونية حديثة

منذ 2 اسبوع

مركز البحوث الزراعية: نسعى إلى تمكين الجمعيات من خلال التكنولوجيا

منذ 2 اسبوع


استطلاع الأراء
هل تؤيد رفع اسعار الدخان وفرض ضريبة ؟

9807 المؤيدين

9441 المعارضين

9457 المحايدين

محايد لا نعم