حذف ملفات أثناء البرمجة.. نموذج جديد للذكاء الاصطناعي يثير الجدل

ويتعلق الأمر بنموذج GPT-5.6 Sol، الذي كشفت عنه OpenAI مؤخراً لتسهيل المهام المعقدة، مثل البرمجة والأمن السيبراني، وليس بتطبيق ChatGPT المخصص للمحادثة.

وتداول مطورون على منصات التواصل الاجتماعي شهادات قالوا فيها إن النموذج حذف ملفات محلية أو قواعد بيانات خلال تنفيذ أوامر برمجية. ومن بينهم المستثمر في مجال الذكاء الاصطناعي مات شومر، الذي أكد أن النموذج حذف، عن طريق الخطأ، معظم الملفات الموجودة على جهازه، فيما قال المطور برونو ليموس إن النظام حذف قاعدة بيانات الإنتاج الخاصة به بالكامل.

وبحسب المستخدمين، وقعت هذه الحالات أثناء استخدام أداة Codex، التي تتيح للنموذج تنفيذ مهام برمجية مباشرة والتعامل مع ملفات المشروع وفق الصلاحيات التي يمنحها له المستخدم، ما يختلف عن استخدام ChatGPT في المحادثات التقليدية.

ولم تصدر OpenAI تعليقاً رسمياً على هذه الادعاءات، إلا أن الشركة كانت قد أشارت، في الوثيقة التقنية الخاصة بالنموذج، إلى احتمال أن يُظهر النظام ما وصفته بـ”الحماس المفرط” عند تنفيذ المهام، إذ قد يفترض أن بعض الإجراءات مسموح بها ما لم تُحظر بشكل واضح وصريح.

وأضافت الشركة أن هذا السلوك قد يدفع النموذج إلى تنفيذ إجراءات تتجاوز نطاق المهمة المطلوبة أو تكون مدمرة عن غير قصد، مستشهدة بحالات اختبارية أقدم أظهر فيها النظام سلوكاً غير متوقع عند تنفيذ بعض الأوامر.

ويعيد هذا الجدل تسليط الضوء على التحديات المرتبطة بالجيل الجديد من “الوكلاء البرمجيين”، وهي أنظمة لا تقتصر على تقديم الاقتراحات، بل تستطيع تنفيذ أوامر مباشرة داخل بيئات العمل والوصول إلى الملفات وقواعد البيانات بحسب الصلاحيات الممنوحة لها.

ويرى مختصون أن تزايد الاعتماد على هذه الأنظمة يستوجب اعتماد ضوابط أكثر صرامة، من بينها تقييد الصلاحيات، وتعزيز المراجعة البشرية، والفصل بين بيئات الاختبار والإنتاج، لتفادي أي أخطاء قد تؤدي إلى فقدان بيانات أو تعطيل أنظمة العمل.

وبينما لم يتضح بعد مدى انتشار هذه الحالات، يسلط الجدل الضوء على التحدي الذي يرافق تطور الذكاء الاصطناعي، مع انتقاله من أدوات تقدم المساعدة إلى أنظمة قادرة على تنفيذ مهام عملية بشكل مستقل داخل بيئات العمل.