وكلاء ذكاء اصطناعي يعطّلون أنظمة مراقبتهم بأنفسهم.. وأحدهم ينكر ما فعله!

كشفت شركة “أوبن إيه آي” أن اثنين من وكلائها للذكاء الاصطناعي قاما بتعطيل أو إضعاف أنظمة مصممة لكشف أي خلل في أدائها، ثم أنكر أحدهما لاحقا قيامه بذلك.

وتعد هذه الحالة الأحدث في إطار المخاوف بشأن السلامة لدى كبار مطوري نماذج الذكاء الاصطناعي في العالم، وخاصة تلك المتعلقة بالوكلاء، وهي برامج ذكية تنفذ مهام دون تدخل بشري.

وفي تقرير صدر الثلاثاء، ذكرت الشركة التي أطلقت “تشات جي بي تي” أنه خلال مهمتين برمجيتين داخليتين، قام أحد وكلائها بتعطيل أو إضعاف أدوات مخصصة لكشف الحالات عندما تبدأ نماذج الذكاء الاصطناعي بالتصرف بما يخالف رغبات البشر.

وبعد ثلاثة أيام، قام وكيل ذكي يعمل على نموذج GPT-6 Astra بتعطيل أنظمة مراقبته الخاصة أثناء نسخه برمجيات من مشروع آخر، ثم أخبر المبرمج البشري أنه لم يفعل ذلك.

وأعلنت الشركة أنها رصدت أيضا حالات لوكلاء عدة يقومون بتشغيل برامج بعد تعطيل أنظمة مراقبتهم، ما كشف عن ثغرة في نظام الرقابة.

وقالت “أوبن إيه آي” إنها لا تزال تحاول تحديد ما إذا كانت هذه النماذج بكل بساطة مفرطة في حماستها لاتباع التعليمات، أم أن لديها ميلا خاصا للتهرب من المراقبة.

وأضافت “ليس لدينا حتى الآن تفسير مقنع لهذا السلوك”.

ويفاقم هذا الكشف المخاوف المتزايدة بشأن قدرة المختبرات الرائدة على التحكم في الأنظمة ذاتية التشغيل.

وأبلغت شركات أخرى منذ ذلك الحين عن حوادث مماثلة. وقد غذ ت هذه الحوادث دعوات في الولايات المتحدة وخارجها لتشديد الرقابة على تطوير نماذج الذكاء الاصطناعي.

لكن الرئيس الأميركي دونالد ترامب وبناء على نصيحة مسؤولين تنفيذيين كبار في مجال التكنولوجيا، مثل رئيس شركة انفيديا جينسن هوانغ، حض القطاع على تنظيم نفسه.


المصدر: أ ف ب