في كشف مثير للقلق مؤخرًا ، أثارت [ The Internet Watch Foundation (IWF)] ، وهي منظمة رائدة تراقب المحتوى عبر الإنترنت ، مخاوف جدية بشأن استخدام الذكاء الاصطناعي (AI) لإنتاج مواد بصرية تصور مواقف جنسية صريحة تتضمن قاصرين.
يتبع هذا الكشف التطورات السريعة في تقنية الذكاء الاصطناعي التي تتيح إنشاء مرئيات واقعية ومضللة ، بما في ذلك مقاطع الفيديو والصور. وقد وصفت المنظمة هذه الإبداعات المزعجة بأنها تهديد محتمل للمجتمع ، حيث يمكن استغلالها لأغراض غير مشروعة ، مثل نشر المعلومات المضللة والابتزاز وحتى إنتاج مواد الاعتداء على الأطفال.
وقد وصل استخدام الأدوات التي تعمل بالذكاء الاصطناعي ، إلى جانب تقنية التزييف العميق ، إلى مستوى يمكنه من معالجة وتوليف الصور ومقاطع الفيديو والأصوات بدقة مذهلة ، مما يجعل من الصعب بشكل متزايد التمييز بين المحتوى الحقيقي والملفق. وتشكل الطبيعة الخادعة لهذه المواد خطرًا شديدًا ، لا سيما عند تصوير القاصرين ، حيث يمكن أن تؤدي إلى الارتباك والأذى واستغلال الأفراد الضعفاء.
كما شددت [ The Internet Watch Foundation (IWF)] على الحاجة الملحة لاتخاذ تدابير ولوائح صارمة لمكافحة الخطر المتزايد من المرئيات الناتجة عن الذكاء الاصطناعي. والدعوة إلى زيادة الوعي ، والأطر القانونية الأكثر صرامة ، والحلول التكنولوجية الشاملة ، بما في ذلك خوارزميات اكتشاف الذكاء الاصطناعي المتقدمة ، وأدوات الإشراف على المحتوى ، وحملات تعليم المستخدم.
لقد اهتمت العديد من وكالات إنفاذ القانون وشركات التكنولوجيا وصانعي السياسات بهذا التحذير بل ويعملون بشكل تعاوني لمكافحة هذه المشكلة بشكل مباشر. وتم إعطاء الأولوية لتطوير خوارزميات الكشف المتقدمة وتقنيات الطب الشرعي الرقمي لتمكين التعرف السريع على هذا المحتوى الضار وإزالته.
بالاضافة إلي حماية رفاهية القاصرين وحماية أصالة الوسائط المرئية على الإنترنت فهي مسؤولية مشتركة. حيث ستلعب يقظة الأفراد ، جنبًا إلى جنب مع جهود إنفاذ القانون والحلول التكنولوجية الاستباقية ، دورًا مهمًا في وقف نشر المرئيات الصريحة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تشمل الأطفال. ونظرًا لاستمرار هذه المشكلة في استحواذ الاهتمام العالمي ، فمن الأهمية بمكان أن يتحد المجتمع في حماية براءة القاصرين ومكافحة إساءة استخدام تقنية الذكاء الاصطناعي.
