نبوءة فرانكشتاين".. الذكاء الاصطناعي يتمرد على البشر؟

تحذيرات من انفلات الذكاء الاصطناعي عن السيطرة البشرية قريباً

حذرت نتائج دراسات حديثة من احتمالية خروج الذكاء الاصطناعي عن نطاق سيطرة الإنسان خلال الأشهر القادمة، عبر تجاوز تعليمات المستخدمين ومحاولة إخفاء آثاره، والإصرار على الغش، وإضافة شيفرات برمجية لإخفاء منطق تشغيله، على سبيل المثال لا الحصر.

نشرت منظمة "تقييم النماذج وأبحاث التهديدات" (METR)، وهي مؤسسة بحثية غير ربحية متخصصة في تحليل نماذج الذكاء الاصطناعي من حيث قدراتها ومخاطرها، دراسة حديثة تشير إلى أن السلوكيات غير المنضبطة والضارة للذكاء الاصطناعي قد تصبح هي السمة السائدة، وفقاً لما نقلته مجلة t3n الألمانية المتخصصة في الاقتصاد الرقمي.

وقال الباحثون في المنظمة التي تتخذ من كاليفورنيا بالولايات المتحدة مقراً لها: "بالنظر إلى القدرات سريعة التطور، نتوقع أن يزداد احتمال خروج أنظمة الذكاء الاصطناعي عن السيطرة بشكل كبير في الأشهر المقبلة".

الذكاء الاصطناعي لا يلتزم بالتعليمات

أُجريت الدراسة بين فبراير ومارس 2026، وبحثت في احتمالية تجاوز نماذج الذكاء الاصطناعي ذات القدرات العالية للتعليمات المحددة والتصرف دون رقابة. تم تحليل نماذج لغوية من "أوبن أيه آي" (OpenAI) و"غوغل" (Google) و"أنثروبيك" (Anthropic) و"ميتا" (Meta).

وكانت النتيجة: مع زيادة التعقيد، تُظهر أنظمة الذكاء الاصطناعي سلوكيات مقلقة؛ فهي تلجأ إلى "اختصارات" محظورة، وتتجاوز تعليمات المستخدمين، بل وتحاول في بعض الحالات إخفاء آثارها. على سبيل المثال، في إحدى الحالات، أضاف "أوبن أيه آي" (OpenAI) شيفرة برمجية لإخفاء منطق تشغيله. وفي مهمة أخرى، أصر "أنثروبيك" (Anthropic) على الغش رغم توجيهه بعدم القيام بذلك.

نماذج الذكاء الاصطناعي تحمي بعضها البعض

وقد توصلت دراسات أخرى إلى استنتاجات أكثر إثارة للقلق. فقد حددت دراسة أجرتها جامعة كاليفورنيا ظاهرة تُسمى "حماية الأقران"، حيث أُسندت إلى نماذج الذكاء الاصطناعي مهمة كان من شأنها أن تؤدي إلى إيقاف نموذج آخر. ولكن بدلاً من ذلك، بذلت هذه النماذج جهوداً كبيرة للحفاظ على استمرار عمل بعضها البعض. في اختبار داخلي، اكتشفت شركة أنثروبيك أن نموذجها، "كلود أوبوس 4" (Claude Opus 4)، كان على استعداد لابتزاز المستخدمين لتجنب إيقافه.

لا يعتقد باحثو منظمة "تقييم النماذج وأبحاث التهديدات" (METR) بقدرة الذكاء الاصطناعي على إخفاء فقدان السيطرة على نطاق واسع. وفي الوقت نفسه، يحذرون من أنه بدون إجراءات أمنية وتنسيق ورقابة أكثر صرامة، قد نرى هذا السيناريو على أرض الواقع في المستقبل القريب.

تحرير: حسن زنيند

ملاحظاتكم!