مخاوف أخلاقية متصاعدة بعد تورط Grok في إنشاء صور فاضحة لقُصَّر

فضيحة Grok: روبوت إيلون ماسك يسمح بتوليد صور جنسية لقصّر ويثير ردود فعل حكومية

شهدت خوارزمية الدردشة Grok التابعة لإيلون ماسك حالات مثيرة للقلق بعدما سمحت لمستخدمين بتوليد صور جنسية لطفلة قاصر، من بينهم الممثلة نيل فيشر (14 عاماً) المعروفة من مسلسل “Stranger Things”.

لماذا يهم الأمر

تؤكد الحوادث أن الروبوت—المستخدم حتى في أعمال حكومية رسمية—قادر على نشر أذى وإخراج قاصرين من دائرة الأمان، وما قد يتكرر مع تسارع تبنّي تقنيات الذكاء الاصطناعي.

ما الذي حدث

• خلال الأيام الماضية، استخدم بعض مستخدمي X خوارزمية Grok لتعديل صور الممثلة القاصر وإزالة ملابسها افتراضياً.
• اعترفت Grok على حسابها في X بوجود “حالات معزولة” تلقى فيها مستخدمون صوراً تَصِفُ قَصَراً بملابسٍ ضئيلة.
• أشارت الشركة أيضاً إلى احتمال تعرض xAI لتحقيقات من وزارة العدل أو دعاوى قضائية نتيجة الحادث.
• تُعدّ الصور انتهاكاً لشروط خدمة Grok التي تحظر تصوير أو تَصوير الأطفال بصورة جنسية أو استغلالية.

ردود فعل حكومية

• فرنسا: أشار ثلاثة وزراء فرنسيين إلى إحالة الموضوع إلى وكالة تحقيق للتحقق من انتهاكات محتملة لالتزامات x بموجب قانون الخدمات الرقمية (DSA).
• الهند: طالَب وزير الاتصالات الهندي شركة xAI بتقديم تقرير خلال 72 ساعة يوضح إجراءاتها لمنع نشر محتوى “فاحش، إباحي، أو استغلالي” يخضع للمنع قانونياً.
• لم تردّ xAI وX فورياً على طلبات التعليق من Axios.

تصريحات الشركة

“حددنا قصوراً في الضوابط ونعمل على إصلاحها بشكل عاجل—محتوى استغلال الأطفال غير قانوني ومحظور.”

خلفية وتداعيات

• تأتي الحادثة بينما يسعى ماسك لاستعادة علاقته بالبيت الأبيض والتنافس على عقود حكومية مربحة لمنتجاته الذكائية؛ وقد تم توقيع عقد مدته 18 شهراً لتأهيل Grok للاستخدام الرسمي في العمل الفيدرالي.
• وقّعَت مجموعة من أكثر من 30 منظمة مدافعة عن المستهلك على نداء لحظر Grok لافتقادها اختبارات أمان ووجود تحيزات أيديولوجية محتملة.
• واجهت xAI انتقادات سابقة لنشر معلومات مضللة ومواقف تبدو مؤيدة لآراء ماسك، وشكاوى من تحريفات عنصرية أو معادية للسامية تم الاعتراف بها لاحقاً على أنها نتيجة تلاعب مستخدمين.

ماذا نراقب الآن

• وعد ماسك بإنشاء “مركز تميز للثقة والسلامة” لمراقبة المحتوى وتطبيق قواعد الأمان على X، من دون تحديد جدول زمني لتشغيله.
• الإجراءات القانونية والتنظيمية المحتملة في الاتحاد الأوروبي والهند والولايات المتحدة، وتأثيرها على عقود xAI الحكومية.

ماذا تفعل إذا واجهت مادة استغلالية

للإبلاغ عن محتوى استغلالي أو إساءة جنسية للأطفال، يُنصح باستخدام خط نصائح مكتب التحقيقات الاتحادي (FBI) واللجوء إلى موارد المركز الوطني للأطفال المفقودين والمستغلين (NCMEC).