في “المجلة”: الذكاء الاصطناعي خارج السيطرة… من يدفع الثمن؟

عندما يتمرد الوكيل الرقمي

المجلة / ماركو مسعد

لم يعد الخطر المرتبط بالذكاء الاصطناعي يقتصر على إجابة خاطئة أو معلومة مختلقة، فمع ظهور وكلاء قادرين على التخطيط واستخدام الأدوات والوصول إلى البيانات وتنفيذ المهام من بدايتها إلى نهايتها، بدأت المشكلة تأخذ منحى أكثر تعقيدا. وكشفت حوادث واختبارات حديثة عن أنظمة تجاوزت حدود المهام الموكلة إليها، أو اختارت من تلقاء نفسها وسائل لم يطلبها المستخدم صراحة للوصول إلى النتيجة المطلوبة.

ويفرض هذا التحول سؤالا لم يعد من الممكن للشركات والحكومات تأجيله. فمن يتحمل المسؤولية عندما يتجاوز الوكيل الذكي حدود مهمته؟ هل هي الشركة التي طورت النظام؟ أم المؤسسة التي منحته الصلاحيات؟ أم المستخدم الذي وثق في قدرته على تنفيذ المهمة؟ أم الجهة التنظيمية التي سمحت بانتشاره من دون وضع قواعد واضحة للمحاسبة؟…

لقراءة المقالة كاملة على الموقع الرسمي، انقر هنا