حين تصبح مشاعر المستخدمين رهينة الذكاء الاصطناعي

عبرت “أوبن إيه آي” عن قلقها من التعلق عاطفياً بمساعدها الصوتي

اندبندنت عربية /   أ ف ب

تبدي شركة “أوبن إيه آي” المطورة لنموذج “تشات جي بي تي” قلقها من إمكان أن تتسبب الواقعية الكبيرة في الصوت المرفق ببرنامجها للذكاء الاصطناعي، في تعلق المستخدمين بالتفاعلات الآلية على حساب العلاقات البشرية.

وأشارت الشركة التي تتخذ سان فرانسيسكو مقراً لها، في تقرير إلى أن الدردشة مع الذكاء الاصطناعي كما قد يفعل المرء مع شخص آخر، قد تدفع المستخدمين إلى أن يضعوا ثقة في غير محلها بالبرامج الآلية، كما أن الجودة العالية للصوت المدمج بنسخة “جي بي تي- 4” من “تشات جي بي تي” قد تفاقم هذا التأثير.

وقالت “أوبن إيه آي” في التقرير عن العمل الأمني الذي تقوم به على نسخة “جي بي تي- 4” من برنامج الذكاء الاصطناعي الخاص بها، إن “تقنيات التشبيه بالإنسان تتضمن إسناد سلوكيات وخصائص خاصة بالبشر إلى كيانات غير بشرية، مثل نماذج الذكاء الاصطناعي”.

وحذرت من أن “هذا الخطر قد يزداد بسبب القدرات الصوتية لـ ‘جي بي تي- 4’ والتي تسهل مزيداً من التفاعلات الشبيهة بالإنسان مع البرنامج” الآلي.

باتت المخاطر متزايدة مع قدرات المساعد الصوتي للذكاء الاصطناعي (رويترز)

حديث بروابط مشتركة

وقالت شركة “أوبن إيه آي” إنها لاحظت أن المستخدمين يتحدثون إلى الذكاء الاصطناعي بطرق تشير إلى روابط مشتركة، مثل التذمر بصوت عال أمام البرنامج الآلي، ولفتت إلى أن هذه الحالات تبدو حميدة ولكن يتعين درسها لمعرفة كيفية تطورها على فترات أطول من الزمن.

وتكهنت “أوبن إيه آي” بأن التفاعل الاجتماعي مع الذكاء الاصطناعي قد يجعل المستخدمين أقل مهارة أو ميلاً إلى التواصل مع البشر، وأشار التقرير إلى أن “التفاعل الموسع مع البرنامج قد يؤثر في المعايير الاجتماعية”، مضيفاً أن “نماذجنا تتعامل بتواضع مع المستخدمين وهذا يسمح لهم بالمقاطعة وأخذ الدور في الكلام في أي وقت، وهذا يتعارض مع آداب الحديث في التفاعلات البشرية، في حين أنه متوقع مع الذكاء الاصطناعي”.

وبحسب “أوبن إيه آي” فإن قدرة الذكاء الاصطناعي على تذكر التفاصيل أثناء المحادثة وإنجاز المهمات قد يجعل الناس يعتمدون بصورة مفرطة على التكنولوجيا.

قصة سكارليت جوهانسون

وقال المؤسس المشارك والرئيس التنفيذي لمنصة “كوبي ليكس” المتخصصة في رصد عمليات السرقة الأدبية من خلال الذكاء الاصطناعي، ألون يامين، إن “المخاوف الأخيرة التي شاركتها ‘أوبن إيه أي’ حول الاعتماد المحتمل على الخدمة الصوتية في ‘تشات جي بي تي’ تشير إلى ما بدأ كثيرون بالفعل في طرحه، فهل حان الوقت للتوقف والتفكير في كيفية تأثير هذه التكنولوجيا في التفاعل البشري والعلاقات؟”، مشدداً على ضرورة ألا يكون الذكاء الاصطناعي أبداً بديلاً عن التفاعل البشري الفعلي.

وأكدت “أوبن إيه آي” أنها ستختبر بصورة أكبر كيف يمكن لقدرات الصوت في الذكاء الاصطناعي أن تجعل الناس مرتبطين عاطفياً بالبرنامج الآلي.

وأيضاً تمكنت الفرق التي اختبرت القدرات الصوتية في نسخة “جي بي تي- 4” من دفعها إلى تكرار معلومات كاذبة وإنتاج نظريات مؤامرة، مما أثار مخاوف من إمكان أن يُحمل الذكاء الاصطناعي إلى القيام بذلك بصورة تلقائية.

قدمت جوهانسون نسخة إنسان آلي في فيلم “هير” (رويترز)

وأجبرت شركة “أوبن إيه آي” على الاعتذار للممثلة سكارليت جوهانسون في يونيو (حزيران) الماضي لاستخدام البرنامج صوتاً يشبه صوتها في أحدث روبوت دردشة، مما سلط الضوء على التجاوزات المحتملة لتقنية استنساخ الصوت.

وعلى رغم أن شركة “أوبن إيه آي” نفت أن يكون الصوت الذي استخدمته لجوهانسون، إلا أن استخدام الرئيس التنفيذي للشركة سام ألتمان عبارة “هير” للإشارة إلى النموذج الجديد عبر وسائل التواصل الاجتماعي زاد الشكوك في هذا المجال.

وأدت جوهانسون صوت شخصية من الذكاء الاصطناعي في فيلم “Her” الصادر عام 2013، والذي قال ألتمان سابقاً إنه فيلمه المفضل عن التكنولوجيا، وفيه يؤدي خواكين فينيكس دور رجل يقع في حب مساعدة بالذكاء الاصطناعي تدعى سامانثا.

المزيد عن: الذكاء الاصطناعيمشاعرعاطفةالبشرأوبن إيه آي