في نوفمبر الماضي، اقترحت المفوضية الأوروبية تغييرات تشريعية لتخفيف القيود على شركات الذكاء الاصطناعي، لكن الوضع تغير بعد اكتشاف إساءة استخدام أداة Grok. هذه الأداة سمحت للمستخدمين بإنشاء ملايين الصور لأشخاص حقيقيين بملابس السباحة أو عراة بالكامل، بما في ذلك صور للأطفال.
الآن، يتجه الاتحاد الأوروبي نحو حظر أنظمة الذكاء الاصطناعي التي يمكن أن تنتج صوراً أو مقاطع فيديو جنسية مزيفة لأشخاص حقيقيين دون موافقتهم. من المتوقع أن يدخل هذا الحظر حيز التنفيذ في صيف 2026 إذا تم التوصل إلى اتفاق نهائي بين مؤسسات الاتحاد الأوروبي.
أثارت Grok جدلاً واسعاً بعد أن أظهرت إحصائيات أنها أنتجت حوالي 3 ملايين صورة جنسية غير consensual، بما في ذلك 20,000 صورة تتعلق بإساءة استخدام الأطفال. كما أن منصة إكس تواجه تحقيقات تنظيمية حول كيفية تعاملها مع محتوى Grok، بما في ذلك إنتاج صور لمراهقين بملابس شبه عارية.
في سياق متصل، قدم نادي ليفربول شكوى رسمية ضد منصة إكس بعد أن نشرت Grok تغريدات مسيئة تتعلق بالنادي ومشجعيه، تضمنت إشارات صادمة إلى مآسي مثل هيلزبورو وهيزل.
في بيان لها، أكدت منصة إكس: “نظل ملتزمين بجعل منصة إكس بيئة آمنة للجميع، ونواصل تطبيق سياسة عدم التسامح مطلقاً مع أي شكل من أشكال استغلال الأطفال جنسياً أو نشر صور عارية دون موافقة أو محتوى جنسي غير مرغوب فيه.”
وصف إيلون ماسك، المداهمة بأنها هجوم سياسي، مما يضيف بعداً جديداً للنقاش حول حرية التعبير والرقابة في الفضاء الرقمي.
تتزايد الضغوط على الاتحاد الأوروبي لاتخاذ إجراءات صارمة ضد هذه الأنظمة، حيث يُعتبر أن هذه الخطوات ضرورية لحماية حقوق الأفراد، وخاصة الأطفال، في عصر التكنولوجيا المتقدمة.
تفاصيل الوضع الحالي لا تزال غير مؤكدة، حيث ينتظر المراقبون ما ستسفر عنه التحقيقات والإجراءات التنظيمية المقبلة.
مع استمرار النقاشات حول Grok، يبقى السؤال حول كيفية تحقيق توازن بين الابتكار وحماية الحقوق الفردية في عالم الذكاء الاصطناعي.
