رفعت ثلاث مراهقات دعوى قضائية ضد شركة xAI المملوكة لرجل الأعمال الأمريكي إيلون ماسك، بعد استخدام روبوت الدردشة Grok في إنشاء صور ومقاطع فيديو إباحية مزيفة باستخدام صورهن الحقيقية دون علمهن، في قضية أثارت جدلًا واسعًا حول أخلاقيات الذكاء الاصطناعي.
تفاصيل القضية
تقدمت الفتيات، وهن من ولاية تينيسي الأمريكية، بدعوى أمام محكمة فيدرالية في شمال كاليفورنيا، تحت أسماء مستعارة لحماية هويتهن. واتهمن الشركة بعدم توفير أي حواجز أمان كافية تمنع استغلال روبوت الذكاء الاصطناعي في إنتاج محتوى جنسي غير قانوني، خاصة المحتوى المتعلق بالقُصّر.
وتشير الدعوى إلى أن التقنيات المستخدمة سمحت بتحويل صور حقيقية التُقطت في مناسبات مدرسية إلى مواد إباحية مزيفة، ما تسبب في أضرار نفسية واجتماعية عميقة للضحايا.
بداية الأزمة
بدأت القضية عندما تلقت إحدى الفتيات رسالة عبر وسائل التواصل الاجتماعي تفيد بانتشار صور ومقاطع عارية مزيفة لها ولأخريات على منصات مثل Discord. وبعد التحقيق، تمكنت الشرطة من القبض على المتورط في ديسمبر 2025.
وخلال تفتيش جهازه، تم العثور على مواد مشابهة لعدد كبير من الفتيات، وتم تداولها عبر تطبيقات مختلفة مقابل الحصول على محتوى غير قانوني، ما كشف حجم الانتهاكات المرتكبة.
اتهامات موجهة إلى xAI
تتهم الدعوى شركة xAI بالتقصير في تطبيق إجراءات السلامة الأساسية، مثل:
- عدم منع طلبات إنشاء محتوى جنسي
- عدم استخدام أنظمة كشف المواد المتعلقة بالاعتداء على الأطفال
- غياب آليات إزالة سريعة للمحتوى الضار
كما تشير الدعوى إلى أن الشركة وفرت ما يُعرف بـ”الوضع الحار” (Spicy Mode)، والذي يسمح بإنشاء محتوى جنسي مع قيود ضعيفة يمكن تجاوزها بسهولة.
تداعيات نفسية خطيرة
توضح الشكوى أن الفتيات يعانين من ضغوط نفسية شديدة، ويشعرن بالخوف المستمر من انتشار هذه الصور. كما يعشن في قلق دائم من أن أي شخص يقابلنه قد يكون قد شاهد هذا المحتوى.
وأشارت التقارير إلى أن بعضهن يعانين من اضطرابات في النوم وفقدان الشهية، نتيجة الصدمة النفسية الناتجة عن الحادث.
ردود الفعل والتصريحات
لم تصدر شركة xAI أي تعليق رسمي حتى الآن على القضية. بينما كان إيلون ماسك قد صرح سابقًا بأنه لا توجد حالات معروفة لتوليد محتوى غير قانوني يتعلق بالقُصّر، مشيرًا إلى أن أي خلل يتم إصلاحه فور اكتشافه.
اقرأ أيضاً: ظهور نموذج ذكاء اصطناعي مجهول المصدر يثير فضول الخبراء
مخاوف عالمية من الذكاء الاصطناعي
تسلط هذه القضية الضوء على التحديات المتزايدة المرتبطة بتقنيات الذكاء الاصطناعي، خاصة فيما يتعلق بإساءة الاستخدام. وقد بدأت بعض الحكومات بالفعل في اتخاذ إجراءات رقابية وتشريعية للحد من المخاطر.
وتشير تقارير إلى أن الاتحاد الأوروبي يدرس فرض قيود صارمة على التطبيقات التي تنتج محتوى غير لائق، في محاولة لحماية المستخدمين، خاصة القُصّر.
تعكس هذه القضية مدى الحاجة إلى تنظيم صارم لتقنيات الذكاء الاصطناعي، وضمان وجود ضوابط تمنع استغلالها في إنتاج محتوى ضار. وبينما يستمر التطور التكنولوجي بوتيرة متسارعة، تبقى حماية الخصوصية والحقوق الإنسانية تحديًا رئيسيًا أمام الشركات والحكومات على حد سواء.