مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

38 خبر
  • رياضة
  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران
  • العملية العسكرية الروسية في أوكرانيا
  • رياضة

    رياضة

  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران

    تجدد التوتر وانهيار الحوار بين واشنطن وطهران

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

  • روسيا تلجأ إلى محكمة التحكيم الرياضية لإنهاء عقوبات ألعاب القوى

    روسيا تلجأ إلى محكمة التحكيم الرياضية لإنهاء عقوبات ألعاب القوى

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

إذاعة الجيش عن الموساد: إحباط هجوم إيراني للتسلل إلى إسرائيل بهدف إيذاء مسؤولين إسرائيليين كبار

مكتب نتنياهو يعلق على ربط ترامب توقيع الاتفاق النووي مع السعودية بانضمامها إلى اتفاقيات أبراهام

"يسرائيل هيوم": هدية المفاعل النووي للسعودية تشكل خطرا وجوديا على إسرائيل

مسؤول إيراني: هجوم صاروخي أمريكي قرب منفذ الشلامجة الحدودي مع العراق (فيديو)

7 شرائح.. نتنياهو يكشف كيف أقنع ترامب بقصف إيران (فيديو)

إعلام إيراني: انفجارات قوية تهز جزيرة بوبيان الكويتية

لواء إسرائيلي يتحدث عن "التهديد الإيراني المقلق": ليس جبل الفأس!

الخارجية الروسية تحذر من تداعيات حرجة على أمن الطاقة إذا تدهورت الأوضاع في منطقة الخليج