مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

33 خبر
  • مونديال 2026
  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران
  • العملية العسكرية الروسية في أوكرانيا
  • مونديال 2026

    مونديال 2026

  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران

    تجدد التوتر وانهيار الحوار بين واشنطن وطهران

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • جرائم العقيد جيكوفيتش

    جرائم العقيد جيكوفيتش

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

واشنطن تكتشف سر الصواريخ الإيرانية المناورة وتستخلص العبر من ضربة الأردن

الجيش الأمريكي يحدد القوة الإيرانية التي قتلت جنوده في الأردن ويخصص اليوم الثامن لقصفها (فيديو)

ترامب يعلق على مقتل الجنود: لن نسمح لإيران بامتلاك سلاح نووي.. ولا أكترث بتخليها عن اتفاق التفاهم

بينها السعودية والبحرين.. تحذير أمريكي عاجل من السفر إلى 15 دولة في الشرق الأوسط

مخاوف إسرائيلية ويونانية من التعاون العسكري المصري التركي

هجوم إيراني متزامن على قاعدتي "العديري" و"علي السالم" الأمريكيتين في الكويت (فيديو)

تقرير يكشف تفاصيل هجمات إيرانية على الأردن أسفرت عن مقتل وإصابة جنود أمريكيين وإحداث دمار

القيادة المركزية الأمريكية: مقتل جنديين وفقدان ثالث في هجوم إيراني على الأردن

القناة 13 العبرية: إجلاء طائرات التزود بالوقود الأمريكية من مطار رامون بعد ضربة إيرانية

فيديو.. انفجارات ضخمة تهز أربيل والسليمانية ودهوك وسط تضارب المعلومات بشأن الأهداف

سوريا.. توغل إسرائيلي في ريف القنيطرة وسقوط قذيفتين دون تسجيل إصابات

الكويت.. مشاهد غير موثقة لـ"إطلاق قوات أمريكية صواريخ "أتاكمس" نحو إيران"

"8 دقائق لوصول الصاروخ".. مصدر عسكري إسرائيلي يحذر من سيناريو إيراني يقلب الموازين

طائرات التزود بالوقود التابعة لسلاح الجو الأمريكي تحلق في سماء الخليج

مستشهدا بآية قرآنية.. الحرس الثوري يوجه تحذيرا لدول المنطقة من هجمات جديدة

أسير إسرائيلي سابق يكشف عن حديثه مع عنصر من "حماس" عن ميسي ويهاجم مدرب منتخب مصر