لطالما حذر الخبراء من المخاطر المحتملة لأنظمة الذكاء الاصطناعي، خاصة إذا تجاوزت حدود السيطرة البشرية، في تطور غير مسبوق كشف علماء أن بعض أنظمة الذكاء الاصطناعي قد بدأت في “التكاثر الذاتي”، متجاوزة الخط الأحمر الذي لطالما كان مثار قلق في الأوساط العلمية.
مثل هذا التقدم الملحوظ وتجاوز الخط الأحمر يعتبر إشارة مبكرة للذكاء الاصطناعي المارق، وكتب بعض العلماء في الصين من جامعة فودان في إن عملية التكاثر الذاتي التي تحدث بنجاح دون مساعدة من البشر تعتبر واحدة من الخطوات الأساسية لكي يتفوق الذكاء الاصطناعي على البشر.
بالنسبة إلى مصطلح حدود الذكاء الاصطناعي فإنه وفقًا ل “builder.ai” هو إشارة إلى تطورات الذكاء الاصطناعي والابتكارات الكثيرة التي تساهم في التعلم الآلي والحوسبة المعرفية، ولكن يتم اعتبار “التكاثر الذاتي” من المشاكل الصغيرة التي تعمل على تعدي الخط الأحمر المسموح به.
كما اكتشف العلماء أن هناك نظامين من أنظمة الذكاء الاصطناعي قد تجاوزا بالفعل الخط الأحمر وهما نظام ” Meta’s Llama31-70B-Instruct “ونظام “Alibaba’s Qwen25-72B-Instruct”، وبنسبة 90% نجحت الأنظمة إنشاء نسخة حية من نفسيهما بكل سهولة.
وتم التحديات أنه إذا ترك هذا الخطر هكذا سوف يتم فقد السيطرة على هذه الأنظمة فيما بعد، وفي النهاية قال العلماء أنه لا يمكن لأي شخص فيما يعد أن يقول أننا لم نحذر من هذا الأمر.
يذكر أنه في العام الماضي أيضًا أكد عدد من الباحثين المتواجدين في معهد ماساتشوستس للتكنولوجيا بأن عدد كبير من أنظمة الذكاء الاصطناعي قادرة على خداع البشر.