"بلومبرغ": صور "غروك" الجنسية تختبر حدود الرقابة على الذكاء الاصطناعي

تناولت وكالة "بلومبرغ" في مقال لها، الجدل الدائر حول "غروك" روبوت الدردشة في منصة "إكس" التابعة للميليادير الأميركي إيلون ماسك، وقيامها مؤخراً بتوليد صور عارية أو ذات طابع جنسي لأشخاص حقيقيين، وما عمد إليه بعض الدول من إجراءات لمعاقبة ماسك ومنصته، فكيف كان رده؟

فيما يلي نص المقال منقولاً إلى العربية:

على مدى الأسابيع القليلة الماضية، تم استخدام روبوت الدردشة الذكي الخاص بإيلون ماسك، غروك، بشكل روتيني ومتكرر لتجريد الناس من ملابسهم رقمياً في منصة "إكس"، وعلى الرغم من الاحتجاجات المتزايدة من الجهات التنظيمية العالمية، استمرت الأداة في العمل في الولايات المتحدة مع تدخل حكومي محدود. وفي ذروة انتشاره مطلع هذا الشهر، استُخدم تطبيق "غروك" آلاف المرات في الساعة لكشف ملابس أشخاص من دون رضاهم في ردوده العلنية في مواقع التواصل الاجتماعي، ما نقل شكلاً مقلقاً من أشكال الإساءة والتحرش من زوايا الإنترنت المظلمة إلى منصة إلكترونية أكثر شيوعاً، وفقاً لجهات مراقبة الصناعة.

وقد راوحت فئات الضحايا بين نجوم منصة "أونلي فانز"، ونائبة رئيس وزراء السويد. وأفادت منظمات حماية الطفل في بريطانيا أنَّها عثرت على مواد إباحية للأطفال مُولّدة بالذكاء الاصطناعي في الإنترنت المظلم، ويُعتقد أنَّها صُنعت باستخدام روبوت "غروك". لكن، إيلون ماسك أكد "ألّا علم له بأي صور عارية لقاصرين". بينما واصل ماسك تطوير هذه التقنية وترويجها ونشرها، والتي لم تواجه حتى الآن سوى القليل من الإجراءات القانونية أو التنظيمية في الولايات المتحدة. وما تزال شركتا "آبل" و"غوغل" توفرانها في متاجر تطبيقاتهما. وقد استخف ماسك بالجدل الدائر حولها، فطلب مازحاً من غروك أن يخلع ملابسه، وهاجم منتقديه، وشبه المُنتج بأدوات مثل "فوتوشوب من "أدوبي"، مشيراً إلى أنَّ المشكلة لا تكمن في "غروك" نفسه، بل في مستخدميه. ونشر ماسك يوم الأربعاء، "من الواضح أن غروك لا يُنشئ الصور تلقائياً، بل يفعل ذلك فقط بناءً على طلبات المستخدمين"، وأضاف، أنَّه "يرفض إنتاج أي شيء غير قانوني".

وبعد الضجة وضعت منصة "إكس" أداة توليد الصور الخاصة المدفوعة، محولةً بذلك ميزة مثيرة للجدل إلى منتج مالي للشركة. وفي وقت لاحق، أعلنت الشركة حظر "غروك" من توليد هذا النوع من الصور لـ"أشخاص حقيقيين"، على الرغم من ظهور تقارير سريعة تفيد بأنَّه ما يزال بإمكان المستخدمين إنشاء هذه الصور باستخدام تطبيق "غروك" المستقل. وفي منصة"إكس" أيضاً ما تزال هناك بعض الصور ذات الطابع الجنسي من الروبوت، بما في ذلك صور لأشخاص يرتدون ملابس داخلية مثيرة أو ملابس فاضحة، وفقاً لتحليل أجراه موقع "بلومبرغ".

لطالما تميز إيلون ماسك وشركته الناشئة في مجال الذكاء الاصطناعي بتجاوز الحدود، ومع أنَّه حذّر مراراً وتكراراً من التهديد الوجودي للذكاء الاصطناعي، بعد إطلاقه شركة "إكس إيه آي" في عام 2023 كمنافس لمنصة "أوبن إيه آي" في المهمة الغامضة في "فهم الطبيعة الحقيقية للكون". لكن ما يميزها بشكل رئيسي هو احتضانها للمحتوى الجريء والمثير للجدل، سواء كان ذلك من خلال رفقاء ذكاء اصطناعي "رومانسيين" أو محادثات روبوتات دردشة غير تقليدية و"مثيرة".

ومع انتشار الصور الجنسية، لا يقتصر الأمر على إثارة ماسك وشركته لأكبر ضجة في تاريخ الذكاء الاصطناعي المُدمج، بل إنهم يختبرون أيضاً نظام الضمانات العامة والخاصة المصممة للحماية من الأضرار المجتمعية الناجمة عن الذكاء الاصطناعي. وحتى الآن، لم تُثبت هذه الضمانات فعاليتها، ولا سيما في الولايات المتحدة. بينما سارعت الحكومات والهيئات التنظيمية في جميع أنحاء أوروبا إلى تهديد شركة إيلون ماسك والتحقيق معها بشأن الصور الجنسية التي نشرتها منصة "غروك"، إلا أنَّ الولايات المتحدة، أكبر أسواق "إكس"، كانت أبطأ في الاستجابة.

ولقد أقرَّ مجلس الشيوخ بالإجماع في الأسبوع الماضي قانوناً يُعرف باسم "قانون التحدي" الذي يسمح لضحايا الصور الجنسية الصريحة التي تُنشر من دون موافقتهم بمقاضاة الجناة، ولكن ليس بالضرورة المنصات نفسها. وينص قانون وقّعه الرئيس الأميركي دونالد ترامب في أيار/مايو الماضي على إلزام المنصات إزالة الصور الجنسية التي تُنشر من دون موافقة في غضون 48 ساعة من الإبلاغ عنها، إلا أنَّ أنظمة الإبلاغ لم تُفعّل بعد. وقد فتح المدعي العام لولاية كاليفورنيا هذا الأسبوع تحقيقاً مع شركة "إكس إيه آي" بشأن انتشار الصور، وأرسل لاحقاً خطاباً يطالب بوقف النشر، لكن من غير الواضح إلى أين سيقود هذا التحقيق. ولم تُعلّق شركة ماسك الناشئة على التحقيق.

ولطالما كانت حماية سلامة الأطفال في المنصات التقنية من المجالات القليلة التي يتفق فيها الجمهوريون والديمقراطيون على ضرورة تنظيمها. ولكن في كل مرة استدعى فيها الكونغرس الرؤساء التنفيذيين لشركات التكنولوجيا للإدلاء بشهادتهم بشأن مخاوف سلامة الأطفال في السنوات الأخيرة، لم يُدْعَ إيلون ماسك، ويعود ذلك جزئياً إلى أنَّ جلسات الاستماع التي ركزت على سلامة الأطفال كانت أقل صلةً بمنصة "إكس"، التي لا تضم ​​عدداً كبيراً من المستخدمين الصغار.

وفي ولايته الثانية بذل ترامب جهوداً حثيثة لكسب ودّ مجتمع التكنولوجيا، عارضاً على قادته بيئة خالية من القيود التنظيمية لتنمية أعمالهم في مجال الذكاء الاصطناعي، سعياً لمواكبة المنافسة المتزايدة مع الصينيين. أما إيلون ماسك نفسه، فيُصنّف ضمن فئة مختلفة من المديرين التنفيذيين في مجال التكنولوجيا، فهو أغنى رجل في العالم، ومقاول حكومي رئيسي، ومستشار سابق مقرّب من ترامب ومسهم في تمويل فوز الرئيس، وربما يُعيد فتح ميزانيته لحملة انتخابات التجديد النصفي. ويُعدّ "غروك" حصان ماسك في سباق الذكاء الاصطناعي، وهو سباق أجمع عليه مسؤولو التكنولوجيا، مُؤكدين لترامب ضرورة فوز الولايات المتحدة فيه، بينما يُشجع ترامب على الاستثمار الضخم في الذكاء الاصطناعي والابتكار فيه، وهو موقف يتعارض مع احتمال معاقبة أحد أبرز رواد هذا المجال.

قال مدير مبادرة الأمن والثقة والسلامة في جامعة "كورنيل" للتكنولوجيا أليكسيوس مانتزارليس: "نحن في خضم تحول كبير في روح العصر، حيث قررت النخب السياسية والاقتصادية والتكنولوجية في الولايات المتحدة أنَّ من مصلحة أجندتها تقليل إجراءات السلامة ومراقبة المحتوى التي لا تتخذها المنصات الكبرى، وهذه حقيقة أسهم إيلون ماسك بشكل كبير في الوصول إليها".

كذلك، أشار مسؤول في البيت الأبيض لموقع "بلومبرغ" إلى تصريحات كل من شركة "سبيس إكس" وإيلون ماسك العلنية بشأن هذه المسألة كدليل على أنَّ المشكلة تحت السيطرة. وتُظهر جهات أخرى في الإدارة دعمها العلني لـ"غروك"، فقد زار وزير الدفاع الأميركي بيت هيغسيث ماسك الأسبوع الماضي في موقع إطلاق "ستاربايس" التابع لشركة "سبيس إكس"، وانتقد ما سماه الذكاء الاصطناعي "المستنير"، وأعلن عن خطط لدمج "غروك" في أنظمة الوزارة.

وقد أبقت شركتا "آبل" و"غوغل" متجريهما لتطبيقات الهواتف المحمولة، في منصة "غروك إكس" من دون حذف، على الرغم من تاريخهما في إزالة التطبيقات التي تسمح بتصوير الآخرين عراة. وكان عدد من أعضاء مجلس الشيوخ الأميركي قد وجّهوا رسالة في وقت سابق من هذا الشهر إلى الشركتين، مُشيرين إلى أن "غروك" انتهك شروط الخدمة الخاصة بهما من خلال "الإنتاج الجماعي لصور جنسية غير توافقية لنساء وأطفال"، وبالتالي يجب حذفهما. ولم ترد الشركتان على طلب التعليق.

لطالما عرّض منتقدو ماسك أنفسهم للخطر، لأن ثروته الطائلة، وميله إلى التقاضي غالباً ما يُخيف بعض المنتقدين. فعندما قاطع المعلنون منصة "إكس" بسبب سياسات المحتوى بعد استحواذ ماسك عليها، رفع دعوى قضائية لإجبارهم على العودة. وفي إحدى الحالات، تسببت دعواه في انهيار تحالف صناعة الإعلان. وفي هذا الشهر، وبعد أن حاول ناشرو الموسيقى الأميركيون منع "إكس" من استخدام الأغاني المحمية بحقوق الطبع والنشر من دون ترخيص، رفع دعوى قضائية ضدهم أيضاً. فالتحدث علناً ضد ماسك يُعرّض المرء لدعاوى قضائية مكلفة، سواء كان ذلك مبرراً أم لا.

وإحدى الشخصيات التي تحاول الآن مقاضاة "غروك" هي آشلي سانت كلير، المؤثرة المحافظة التي أنجبت مؤخراً طفلاً من إيلون ماسك. ورفعت سانت كلير دعوى قضائية ضد شركة "إكس إيه آي" الأسبوع الماضي، مدعيةً أن "غروك" أنشأ صوراً ذات طابع جنسي لها، وردّت الشركة برفع دعوى قضائية ضدها، متهمةً إياها بخرق العقد لعدم رفعها الدعوى في المحكمة الفيدرالية في تكساس، وهو ما تنص عليه شروط خدمة الشركة.

خارج الولايات المتحدة، تبذل الحكومات والهيئات التنظيمية جهوداً متزايدة لمعاقبة إمبراطورية ماسك. فقد حُظر تطبيق "غروك" في إندونيسيا وماليزيا. وفي اليابان، ثاني أكبر أسواق "إكس". وقد صرّح مسؤولون الأسبوع الماضي بأنهم طلبوا من"إكس" تعزيز إجراءات الحماية ووقف نشر الصور غير اللائقة. كما يدرسون اتخاذ إجراءات قانونية إذا لزم الأمر، وفقاً لوزير الأمن الاقتصادي الياباني.

ولقد كانت فرنسا من أوائل الدول التي أدانت تطبيق "غروك"، حيث أبلغ النائبان آرثر ديلابورت وإريك بوثوريل المدعي العام مؤخراً، عما وصفاه بأنه محتوى جنسي صريح بتقنية التزييف العميق "غير قانوني بشكل واضح"، بينما أكد المدعي العام لاحقاً أنه يحقق في الأمر. وبعد ذلك بوقت قصير، تحركت الهيئات التنظيمية الرقمية في الاتحاد الأوروبي، وأمرت شركة "إكس" بموجب قانون الخدمات الرقمية للاتحاد بالاحتفاظ بجميع الوثائق الداخلية المتعلقة بتطبيق "غروك" حتى نهاية العام، كخطوة تمهيدية قبل اتخاذ أي إجراءات تنظيمية محتملة. ووصفت هينا فيركونين، رئيسة قسم الشؤون الرقمية في الاتحاد الأوروبي، قدرة "غروك" على إنشاء صور جنسية للنساء والأطفال بأنَّها "مروعة"، وأمرت المنصة في الأسبوع الماضي "بإصلاح أداة الذكاء الاصطناعي الخاصة بها في الاتحاد الأوروبي" وإلا ستواجه إجراءات بموجب قانون الخدمات الرقمية، ما قد يؤدي إلى غرامات باهظة.

وقد اتخذت بريطانيا موقفاً مماثلاً، حيث فتحت هيئة تنظيم الإعلام والإنترنت تحقيقاً رسمياً مع شركة ماسك بموجب قانون السلامة في الإنترنت، من ضمن مجموعة من القواعد المصممة لحماية الأفراد، وخاصة الأطفال، من المحتوى الضار. إوذا قررت أوفكوم أن "إكس" قد انتهكت القانون، فيمكنها فرض غرامة تصل إلى 10% من إيرادات الشركة العالمية. وفي حال حدوث ذلك وعدم امتثال الشركة، يمكن للهيئة التنظيمية طلب أمر قضائي من مزودي خدمة الإنترنت لحجب الوصول إلى الموقع في المملكة المتحدة. كما يُجري مفوض الخصوصية في كندا تحقيقاً مع "إكس"، لكن الشركة لم تُعلّق على هذه التحقيقات.

ليس من الواضح ما إذا كانت التحقيقات ستؤدي إلى نتائج ملموسة، وحتى في حال حدوث ذلك، يبقى السؤال مطروحاً حول مدى التزام ماسك بمتطلباتها، لأنَّ الملياردير صاحب تاريخ طويل في مواجهة الجهات التنظيمية بشأن المحتوى في منصة "إكس". وقد فرض الاتحاد الأوروبي غرامة على المنصة في الشهر الماضي لانتهاكها قوانين مراقبة المحتوى في الاتحاد. وفي البرازيل، حُظرت "إكس" مؤقتاً عام 2024 لعدم الامتثال لطلبات الحكومة بإزالة المحتوى.

ولطالما استجاب ماسك للمطالب القانونية التي تفرضها الحكومات، لكنه نادراً ما يفعل ذلك بهدوء. فخلال نزاعه مع البرازيل، وصف ماسك أحد قضاة المحكمة العليا في البلاد بأنه "طاغية شرير يتنكر في زي قاضٍ". وبعد أن انتقد رئيس الوزراء البريطاني كير ستارمر تطبيق "غروك " في وقت سابق من هذا الشهر بسبب صوره "المخزية" و"المقززة" التي تُظهر التعري، وصف ماسك الحكومة البريطانية بأنَّها "فاشية" وزعم أنَّها تسعى إلى "قمع حرية التعبير".

ورغم التغييرات التي أُدخلت على "إكس"، يبدو أن نزاع "غروك" لم يُحسم بعد، ولا سيما إذا سُمح لروبوت الدردشة بإزالة الملابس رقمياً عن الأشخاص عبر تطبيقها المستقل. وقالت ريانا بفيفيركورن الباحثة في معهد ستانفورد للذكاء الاصطناعي المتمحور حول الإنسان، إنَّ "أسوأ ما قد يحدث هو عدم وجود أي عواقب على الإطلاق، ما يُظهر أنَّ هناك شخصاً واحداً فوق القانون".

ولقد واجهت منصات التواصل الاجتماعي صعوبة في ضبط مختلف أشكال المحتوى الجنسي، حيث أضاف الذكاء الاصطناعي تعقيداً جديداً، وسهّل وسرّع على المستخدمين مشاركة وإنشاء صور جنسية، لا تُصوّر دائماً شخصاً حقيقياً. وبينما يُعدّ إنشاء أو نشر الصور الجنسية الصريحة للأطفال مخالفاً للقانون، فإنَّ العديد منها التي أنشأها برنامج "غروك" قد لا تكون غير قانونية في الولايات المتحدة.

مع ذلك، معظم شركات الذكاء الاصطناعي الكبرى على الأرجح لا تملك القدرة على التعامل مع أزمة علاقات عامة كتلك التي يمرّ بها ماسك، وسيكون دافعها، بفعل الغضب الشعبي، ضمان وجود الضوابط المناسبة لتجنّبها. ومن الممكن أيضاً أن تُشكّل قضية "غروك" سابقةً مهمةً لقطاع يتسابق لبناء أنظمة ذكاء اصطناعي أكثر قوةً وإيجاد طرق جديدة لتحقيق الربح منها.

وعندما قلّص ماسك عدد موظفي "إكس"، بمن فيهم مشرفو المحتوى، وفّر ذلك غطاءً لشركات أخرى لاتخاذ إجراءات مماثلة، وإن كانت أقل حدة. وقد أشارت شركات أخرى في مجال الذكاء الاصطناعي سابقاً إلى رغبتها في التوجه نحو محتوى أكثر جرأة، ربما بهدف تعزيز تفاعل المستخدمين. فعلى سبيل المثال، أعلنت "أوبن إيه آي" عن نيتها إطلاق "محتوى للبالغين"، ولم تفصح عن التفاصيل، ومن المقرر إطلاق هذه الميزة في الربع الأول من هذا العام.

نقلها إلى العربية: حسين قطايا.