توصل بحث إلى أن الآلاف من صور إساءة معاملة الأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي تتم مشاركتها عبر الإنترنت | أخبار العلوم والتكنولوجيا

توصل بحث جديد إلى أنه تمت مشاركة الآلاف من الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تصور إساءة معاملة الأطفال في منتدى الويب المظلم.

حوالي 3000 منظمة العفو الدولية الصور من أساءةالأطفال تمت مشاركتها في المنتدى في سبتمبر، حيث تصور 564 صورة أخطر أنواع الصور بما في ذلك الاغتصاب والتعذيب الجنسي والبهيمية.

ومن بين الصور، كان هناك 1372 طفلاً تتراوح أعمارهم بين 7 و10 سنوات، وفقًا لبحث أجرته مؤسسة مراقبة الإنترنت (IWF).

وقالت المؤسسة الخيرية إن الصور الأكثر إقناعا سيكون من الصعب على المحللين المدربين تمييزها عن الصور الفوتوغرافية، وحذرت من أن تكنولوجيا تحويل النص إلى صورة سوف تتحسن، مما يجعل من الصعب على الشرطة وجهات إنفاذ القانون الأخرى حماية الأطفال.

وتصور بعض الصور أطفالا حقيقيين تم استخدام وجوههم وأجسادهم لتدريب نماذج الذكاء الاصطناعي، والتي قررت المؤسسة الخيرية عدم ذكر أسمائها.

وفي حالات أخرى، تم استخدام العارضات “لتعرية” الأطفال بناءً على صورهم وهم يرتدون ملابس كاملة والتي تم تحميلها عبر الإنترنت.

يستخدم المجرمون أيضًا التكنولوجيا لإنشاء صور للمشاهير الذين تم “تقليص أعمارهم” لتصويرهم كأطفال في سيناريوهات الاعتداء الجنسي.

“هذا التهديد موجود هنا والآن”

وقال إيان كريتشلي، رئيس مجلس رؤساء الشرطة الوطنية لحماية الأطفال في المملكة المتحدة، إن توليد مثل هذه الصور عبر الإنترنت يجعل إساءة معاملة الأطفال أمرًا طبيعيًا في العالم الحقيقي.

وقال “من الواضح أن هذا لم يعد يشكل تهديدا ناشئا، بل إنه موجود هنا والآن”.

“إننا نشهد استمالة الأطفال، ونرى الجناة يصنعون صورهم الخاصة وفقًا لمواصفاتهم الخاصة، ونرى إنتاج صور الذكاء الاصطناعي لتحقيق مكاسب تجارية – وكل ذلك يجعل اغتصاب الأطفال الحقيقيين وإساءة معاملتهم أمرًا طبيعيًا.”

ما الذي يمكن عمله حيال ذلك؟

المملكة المتحدة وشيكة مشروع قانون السلامة على الإنترنت تم تصميمه لعقد وسائل التواصل الاجتماعي المنصات أكثر مسؤولية عن المحتوى المنشور على منصاتها.

لكنه لا يمتد إلى شركات الذكاء الاصطناعي التي يتم تغيير نماذجها واستخدامها لتوليد صور مسيئة.

تستضيف حكومة المملكة المتحدة قمة سلامة الذكاء الاصطناعي الأسبوع المقبل والتي تهدف إلى معالجة المخاطر المرتبطة بالذكاء الاصطناعي والنظر في الإجراء المطلوب.

وقالت سوزي هارجريفز، الرئيسة التنفيذية للاتحاد الدولي لرفع الأثقال، إن قوانين الاتحاد الأوروبي الجديدة بشأن الاعتداء الجنسي على الأطفال يجب أن تشمل الصور غير المعروفة.

وقالت: “إننا نرى مجرمين يتعمدون تدريب الذكاء الاصطناعي الخاص بهم على صور الضحايا الحقيقيين الذين عانوا بالفعل من سوء المعاملة”.

“الأطفال الذين تعرضوا للاغتصاب في الماضي يتم الآن دمجهم في سيناريوهات جديدة لأن شخصًا ما، في مكان ما، يريد رؤيته.”

السياسيون “ناموا على عجلة القيادة”

وقالت إلين جودسون، رئيسة مركز الأبحاث الرقمية في مؤسسة ديموس البحثية: “مرة أخرى، أصبح صناع السياسات نائمين على عجلة القيادة مع استمرار الذكاء الاصطناعي التوليدي في إحداث تغيير جذري في طبيعة الأضرار عبر الإنترنت”.

ودعت الحكومة إلى “الأخذ في الاعتبار” في فهمها وتنظيمها لأدوات الذكاء الاصطناعي، وتحديدًا حول كيفية تصميمها وتطويرها.

وأضافت: “إن انتظار حدوث الأزمة التالية قبل الاستجابة لها ليس نهجًا مستدامًا”.

وقال متحدث باسم وزارة الداخلية: “يعد الاعتداء الجنسي على الأطفال عبر الإنترنت أحد التحديات الرئيسية في عصرنا، كما أن ارتفاع مواد الاعتداء الجنسي على الأطفال الناتجة عن الذكاء الاصطناعي أمر مثير للقلق العميق.

“نحن نعمل بوتيرة سريعة مع الشركاء في جميع أنحاء العالم لمعالجة هذه المشكلة، بما في ذلك مؤسسة مراقبة الإنترنت.

“في الشهر الماضي، أعلن وزير الداخلية عن التزام مشترك مع حكومة الولايات المتحدة للعمل معًا لابتكار واستكشاف تطوير حلول جديدة لمكافحة انتشار هذه الصور المقززة.”