برنامج للذكاء الاصطناعي ينشر صورا عارية مزيفة لآلاف النساء

BBC / أفاد تقرير حديث بأن صورا زائفة لأكثر من مئة ألف امرأة من دون ملابس انتشرت عبر تطبيق تلغرام، بعدما استخدم برنامج للذكاء الاصطناعي للتلاعب بصور لهن موجودة على مواقع للتواصل الاجتماعي.

وأشار التقرير الصادر عن شركة “سنسيتي” البحثية إلى أنّ بعض الصور لفتيات قاصرات.

وقال القائمون على البرنامج المستخدم للتلاعب بالصور إنه صمم لغرض “الترفيه”.

واختبرت بي بي سي البرنامج دون الحصول على نتائج ذات أهمية.

وأشارت شركة “سنسيتي” إلى أن البرنامج يعتمد على تقنية “التزييف العميق” التي تستخدم في تزييف مقاطع فيديو إباحية لمشاهير.

لكن رئيس الشركة التنفيذي جيورجيو باتريني، قال إن التحوّل إلى استخدام صور شخصية أمر جديد نسبياً. وحذّر من أنّ “امتلاك حساب على وسائل التواصل الاجتماعي مع صور منشورة للعامّة، يكفي لأن يصبح المستخدم هدفاً” لعملية التلاعب.

كيف يعمل البرنامج؟

يوجد البرنامج على قناة خاصة على تلغرام، ويمكن للمستخدمين إرسال صور لامرأة ليجعلها بدون ملابس في دقائق دون أي تكلفة.

وحصلت بي بي سي على موافقة عدد من الأشخاص لتجربة البرنامج على صور خاصة بهم ولم تكن أيّ من الصور التي ظهرت في النتائج، واقعية تماماً.

ويرجّح أن البرنامج المستخدم يشبه تطبيقا مماثلا حجب العام الماضي.

رسوم تظهر نموذجاً عن نتيجة اختبار تزييف الصور

وقال المسؤول عن إدارة البرنامج الذي يعرّف عن نفسه بالسيّد “بّي”: “هذا ترفيه ولا يتضمن عنفاً”. وأضاف: “لن يبتزّك أحداً بسبب هذا، طالما أن النتيجة ليست واقعية”.

وأضاف أن فريق العمل يتابع الصور المنشورة وأنه “حين نرصد صور قاصرات، نحجب المستخدم إلى الأبد”. لكنّه قال أيضاً إن قرار مشاركة الصورة مع آخرين تعود للمستخدم الذي قرّر إنشائها بواسطة البرنامج.

وفي معرض الدفاع عن الضرر النسبي الناجم عن استخدام البرنامج، قال “بّي”: ” هناك حروب، أمراض والعديد من الأشياء السيئة الضّارة في العالم”.

ولم تردّ إدارة تيغرام على طلب بالتعليق حول ما ورد في التقرير.

وفقاً لتقرير “سنسيتي”، استهدفت نحو 104.852 امرأة بين تموز/يوليو 2019 و2020، ونشرت صورهن المزيفة.

وجاء في التقرير أن بعض الصور كانت لفتيات قاصرات، مع إشارة إلى احتمال “أن بعض المستخدمين يلجأون إلى البرنامج للترويج لمحتوى يستهدف الأطفال جنسيا”.

وبحسب شركة “سنسيتي” فإنه يجري الترويج للتطبيق على موقع التواصل الاجتماعي “في كاي” الروسي. وأظهر استطلاع أن معظم المستخدمين هم من روسيا ودول الاتحاد السوفياتي السابق.

لكنّ المسؤولين عن موقع “في كاي”، قالوا إنهم لا يسمحون بمحتوى أو بروابط مماثلة على المنصة ويعمدون إلى حجب مصادرها.

وكان تطبيق تلغرام محجوباً في روسيا حتى بداية هذا العام.

وقال الرئيس التنفيذي لـ”سنسيتي” إنّ “العديد من هذه البرامج أو التطبيقات لا تعمل في الخفاء، لأنها ليست محظورة بشكل صارم” وأبدى تخوّفه من زيادة الأمر سوءاً إلى حين حظرها.

وقال معدّو التقرير إنهم شاركوا جميع المعلومات مع تلغرام وموقع “في كاي” والسلطات المختصة في تطبيق القوانين، لكنهم لم يحصول على أي رد.