مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

21 خبر
  • مونديال 2026
  • فيديوهات
  • العملية العسكرية الروسية في أوكرانيا
  • مونديال 2026

    مونديال 2026

  • فيديوهات

    فيديوهات

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

بن درور يميني يحذر: انهيار إسرائيل يقترب.. أزمة سياسية وعزلة دولية وعقوبات وربما ضربة عسكرية

"الانتقام أمر لا مفر منه".. ترامب في مرمى إيران (صورة)

الصحة السورية: 4 قتلى و11 مصابا في انفجار بمقهى في العاصمة دمشق (فيديوهات)

"سنتكوم" تقود حوارا أمنيا إقليميا مع 12 دولة بينها سوريا ولبنان

وثيقة حكومية إسرائيلية تكشف أضرارا واسعة خلفتها صواريخ إيران بمعامل تكرير النفط بخليج حيفا

واشنطن كانت تخشى اغتيال إسرائيل لكبار المفاوضين الإيرانيين خلال محادثات السلام

سفير واشنطن يدفع دولارا واحدا لاسئجار أرض فلسطينية في القدس لمدة 99 عاما (صورة + فيديو)

الشيباني يلتقي عون وبري وسلام ويدعو لتعزيز التعاون الأمني والاقتصادي (فيديو)

ما خطة ترامب البديلة لمنع "حق المواطنة بالولادة" بعد خسارته القضية أمام العليا الأمريكية؟

عمرو موسى يرد على انتقادات بعض دول الخليج له ويمتدح "ذكاء إيران" في مواجهة أمريكا وتابعها "الدلدول"