تحقيق Snap AI chatbot في المملكة المتحدة بشأن مخاوف تتعلق بالخصوصية للمراهقين

فرقعة قيد التحقيق في المملكة المتحدة بشأن مخاطر الخصوصية المرتبطة ببرنامج الدردشة الآلي الخاص بالذكاء الاصطناعي التابع للشركة.

أصدر مكتب مفوض المعلومات (ICO)، وهو منظم حماية البيانات في البلاد، إشعارًا تنفيذيًا أوليًا يوم الجمعة يشير فيه إلى المخاطر التي قد يشكلها برنامج الدردشة الآلي My AI على مستخدمي Snapchat، وخاصة الأطفال الذين تتراوح أعمارهم بين 13 و17 عامًا.

وقال مفوض المعلومات جون إدواردز في البيان: “تشير النتائج الأولية لتحقيقنا إلى فشل مثير للقلق من قبل شركة Snap في تحديد وتقييم مخاطر الخصوصية للأطفال والمستخدمين الآخرين بشكل مناسب قبل إطلاق My AI”.

النتائج ليست قاطعة بعد وستتاح لشركة Snap فرصة لمعالجة المخاوف المؤقتة قبل القرار النهائي. إذا أدت النتائج المؤقتة التي توصلت إليها ICO إلى إشعار تنفيذي، فقد يتعين على Snap التوقف عن تقديم روبوت الدردشة المدعم بالذكاء الاصطناعي لمستخدمي المملكة المتحدة حتى يتم إصلاح مخاوف الخصوصية.

وقال متحدث باسم Snap لـ CNBC في رسالة بالبريد الإلكتروني: “إننا نراجع عن كثب القرار المؤقت لطرح العملة الأولي (ICO). مثل الطرح الأولي للعملة (ICO)، نحن ملتزمون بحماية خصوصية مستخدمينا”. “تماشيًا مع نهجنا القياسي في تطوير المنتجات، خضع My AI لعملية مراجعة قانونية ومراجعة خصوصية قوية قبل إتاحته للجمهور.”

وقالت شركة التكنولوجيا إنها ستواصل العمل مع ICO للتأكد من أن المنظمة مرتاحة لإجراءات تقييم المخاطر الخاصة بشركة Snap. يحتوي برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي، والذي يعمل على ChatGPT الخاص بشركة OpenAI، على ميزات تنبه الآباء إذا كان أطفالهم يستخدمون برنامج الدردشة الآلي. وتقول شركة Snap إن لديها أيضًا إرشادات عامة يجب على الروبوتات الخاصة بها اتباعها للامتناع عن التعليقات المسيئة.

ولم يقدم مكتب ICO تعليقًا إضافيًا، مشيرًا إلى الطبيعة المؤقتة للنتائج.

أصدر ICO سابقًا “إرشادات حول الذكاء الاصطناعي وحماية البيانات” وأتبعه بإشعار عام في أبريل يتضمن الأسئلة التي يجب على المطورين والمستخدمين طرحها حول الذكاء الاصطناعي.

وواجه برنامج الدردشة الآلي التابع لشركة Snap، التدقيق منذ ظهوره لأول مرة في وقت سابق من هذا العام بسبب محادثات غير لائقة، مثل تقديم المشورة لشاب يبلغ من العمر 15 عامًا حول كيفية إخفاء رائحة الكحول والماريجوانا، وفقًا لصحيفة واشنطن بوست.

كما واجهت أشكال أخرى من الذكاء الاصطناعي التوليدي انتقادات مؤخرًا هذا الأسبوع. تم استخدام الذكاء الاصطناعي المولد للصور من Bing من قبل لوحة الرسائل المتطرفة 4chan لإنشاء صور عنصرية، حسبما أفاد موقع 404.

وقالت الشركة في أحدث أرباحها إن أكثر من 150 مليون شخص استخدموا روبوت الذكاء الاصطناعي.