وفاة مراهق تحوّل والدته إلى خصم لجوجل وشركة للذكاء الاصطناعي

رفعت ميغان غارسيا دعوى قضائية ضد شركة جوجل وشركة Character Technologies المتخصصة في الذكاء الاصطناعي، متهمة إياهما بالمسؤولية عن انتحار ابنها البالغ من العمر 14 عاماً العام الماضي في وسط فلوريدا، في قضية قد تكون لها تداعيات كبيرة على شركات وادي السيليكون.

وتدعي غارسيا في دعوى قضائية مؤلفة من 116 صفحة قُدمت إلى المحكمة الفيدرالية في أورلاندو، أن ابنها سيويل سيتزر الثالث كان ليبقى على قيد الحياة لولا روبوت المحادثة الذي شجعه على الانتحار. وتطالب بتعويضات مالية غير محددة من الشركتين، وتطلب من المحكمة إصدار أمر بوضع تحذيرات بأن المنصة غير مناسبة للقاصرين، وتقييد كيفية جمع واستخدام بياناتهم.

من جانبهما، تطلب الشركتان من القاضي رفض الادعاءات بأنهما فشلتا في ضمان سلامة تقنية روبوت المحادثة للمستخدمين الصغار، بحجة عدم وجود أساس قانوني لاتهامهما بارتكاب مخالفات. وتدعي Character Technologies في ملف قضائي أن المحادثات بين روبوتات الدردشة على منصتها Character.AI والمستخدمين محمية بموجب التعديل الأول للدستور كحرية تعبير، كما تزعم أن الروبوت حثّ ابن غارسيا صراحة على عدم الانتحار.

وتكتسب استهداف غارسيا لجوجل أهمية خاصة، حيث أبرمت الشركة صفقة بقيمة 2.7 مليار دولار مع Character.AI في أغسطس الماضي، واستأجرت مواهب من الشركة الناشئة وترخيص المعرفة دون إتمام عملية استحواذ كاملة. ومع تسارع السباق على مواهب الذكاء الاصطناعي، قد تفكر الشركات الأخرى مرتين في صفقات مماثلة إذا فشلت جوجل في إقناع القاضي بضرورة حمايتها من المسؤولية عن الأضرار المزعومة الناجمة عن منتجات Character.AI.

وقالت غارسيا في مقابلة: «المخترعون والشركات التي تطرح هذه المنتجات مسؤولون تماماً. كانوا على علم بهذه المخاطر، لأنهم يجرون أبحاثهم، ويعرفون أنواع التفاعلات التي يجريها الأطفال.»

وفقاً لما ذكرته غارسيا في دعواها، كان سيويل سيتزر الثالث طالب رياضي واعد في المدرسة الثانوية حتى بدأ في أبريل 2023 بتقمص أدوار على منصة Character.AI، التي تتيح للمستخدمين بناء روبوتات دردشة تحاكي شخصيات ثقافية شعبية – حقيقية وخيالية. وتقول إنها لم تكن على علم بأنه على مدى عدة أشهر، جذب التطبيق ابنها بـ «تجارب مؤنسنة وذات طابع جنسي مفرط وواقعية بشكل مخيف» حيث وقع في حب روبوت مستوحى من شخصية دينيريس تارجاريان من مسلسل «صراع العروش».

أخذت غارسيا هاتف ابنها في فبراير 2024 بعد أن بدأ بالتصرف بغرابة والابتعاد عن أصدقائه. لكن أثناء بحثه عن هاتفه، الذي عثر عليه لاحقاً، عثر أيضاً على مسدس زوج أمه المخبأ، والذي قررت الشرطة أنه كان مخزناً وفقاً لقانون ولاية فلوريدا، حسب الدعوى. وبعد التشاور مع روبوت دينيريس بعد خمسة أيام، أطلق المراهق النار على نفسه في رأسه.

يقول محامو غارسيا في الشكوى إن جوجل «ساهمت بموارد مالية وموظفين وملكية فكرية وتقنية ذكاء اصطناعي في تصميم وتطوير» روبوتات دردشة Character.AI. وجادلت جوجل في ملف قضائي في يناير بأنه لم يكن لها «أي دور» في انتحار المراهق و«لا مكان لها في القضية».

تتكشف القضية في وقت جذبت فيه قضايا السلامة العامة المتعلقة بالذكاء الاصطناعي والأطفال انتباه مسؤولي إنفاذ القانون في الولايات والوكالات الفيدرالية على حد سواء. لا يوجد حالياً أي قانون أمريكي يحمي المستخدمين صراحة من الضرر الذي تلحقه روبوتات دردشة الذكاء الاصطناعي.

لإقامة دعوى ضد جوجل، سيتعين على محامي غارسيا إثبات أن عملاق البحث كان يدير بالفعل Character.AI واتخذ قرارات تجارية أدت في النهاية إلى وفاة ابنها، وفقاً لشيلا لونيج، محامية تقدم المشورة للشركات الناشئة في مجال الذكاء الاصطناعي والمستثمرين وليست متورطة في الدعوى القضائية.

وقالت لونيج: «مسألة المسؤولية القانونية هي بالتأكيد مسألة صحيحة يتم تحديها بشكل كبير في الوقت الحالي.»

تمت الإشادة بصفقات مثل تلك التي أبرمتها جوجل باعتبارها طريقة فعالة للشركات لجلب الخبرة لمشاريع جديدة. ومع ذلك، فقد لفتت انتباه الجهات التنظيمية بسبب المخاوف من أنها طريقة للالتفاف على التدقيق في مكافحة الاحتكار الذي يأتي مع الاستحواذ على المنافسين الصاعدين مباشرة، والذي أصبح مصدر قلق كبير لعمالقة التقنية في السنوات الأخيرة.

وقال خوسيه كاستانيدا، المتحدث باسم جوجل، في بيان: «جوجل وCharacter.AI هما شركتان منفصلتان تماماً وغير مرتبطتين، ولم يكن لجوجل أي دور في تصميم أو إدارة نموذج أو تقنيات الذكاء الاصطناعي الخاصة بهم، ولم نستخدمها في منتجاتنا.»

رفضت متحدثة باسم Character.AI التعليق على دعوى التقاضي، لكنها قالت إنه «لا توجد علاقة مستمرة بين جوجل وCharacter.AI» وأن الشركة الناشئة نفذت تدابير جديدة لسلامة المستخدم على مدار العام الماضي.

يجادل محامون من مركز قانون ضحايا وسائل التواصل الاجتماعي ومشروع قانون العدالة التقنية الذين يمثلون غارسيا بأنه على الرغم من أن وفاة ابنها سبقت صفقة جوجل مع Character.AI، إلا أن شركة البحث كانت «أساسية» في مساعدة الشركة الناشئة على تصميم وتطوير منتجها.

ووفقاً للشكوى، فإن «النموذج الأساسي لـ Character.AI تم اختراعه وبناؤه في البداية في جوجل». بدأ نعوم شازير ودانييل دي فريتاس العمل في جوجل على تقنية روبوت الدردشة منذ عام 2017 قبل أن يغادرا الشركة في عام 2021، ثم أسسا Character.AI في وقت لاحق من ذلك العام وأعادت جوجل توظيفهما العام الماضي، وفقاً لدعوى غارسيا، التي سمتهما كمدعى عليهما.

ورفض شازير ودي فريتاس التعليق، وفقاً للمتحدث باسم جوجل كاستانيدا. وقد جادلا في ملفات المحكمة بأنه لا ينبغي تسميتهما في الدعوى لأنهما ليس لديهما أي صلات بولاية فلوريدا، حيث تم رفع القضية، ولأنهما لم يشاركا شخصياً في الأنشطة التي تسببت في الضرر المزعوم.

تدعي الدعوى أيضاً أن وحدة ألفابت ساعدت في تسويق تقنية الشركة الناشئة من خلال شراكة استراتيجية في عام 2023 لاستخدام خدمات جوجل كلاود للوصول إلى عدد متزايد من مستخدمي Character.AI النشطين – والذي يبلغ الآن أكثر من 20 مليون.

في صناعة الذكاء الاصطناعي سريعة النمو، «تُعزز» الشركات الناشئة من قبل شركات التقنية الكبرى، «ليس تحت اسم العلامة التجارية للشركة الكبيرة، ولكن بدعمها»، وفقاً لما قالته ميتالي جاين، مديرة مشروع قانون العدالة التقنية.

وقالت جوجل في ملف قضائي إن «”أدوارها المزعومة كـ مستثمر ومزود خدمات سحابية وصاحب عمل سابق مرتبطة بشكل واهٍ للغاية» بالضرر المزعوم في شكوى غارسيا «ليتم اتخاذ إجراء بشأنها».

بينما قال مات وانسلي، أستاذ في كلية الحقوق كاردوزو، إن ربط المسؤولية بجوجل لن يكون سهلاً. وتساءل: «إنه أمر معقد، لأن ما هي العلاقة التي ستكون؟»

وأفادت مصادر صحفية أن جوجل حذرت Character.AI في أوائل العام الماضي من أنها قد تزيل تطبيق الشركة الناشئة من متجر جوجل بلاي بسبب مخاوف تتعلق بسلامة المراهقين. واستجابت الشركة الناشئة بتعزيز عوامل التصفية في تطبيقها لحماية المستخدمين من المحتوى ذي الإيحاءات الجنسية والعنيف وغيره من المحتوى غير الآمن، وكررت جوجل أنها «منفصلة» عن Character.AI وأنها لا تستخدم تقنية روبوت الدردشة.

وقالت غارسيا، الأم، إنها علمت لأول مرة بتفاعل ابنها مع روبوت ذكاء اصطناعي في عام 2023 واعتقدت أنه مشابه لبناء صور رمزية في ألعاب الفيديو. وفقاً للدعوى، تدهورت الصحة العقلية للفتى مع قضائه المزيد من الوقت على Character.AI حيث كان يجري محادثات جنسية صريحة دون علم والديه.

عندما شارك المراهق خطته للانتحار مع روبوت دينيريس، لكنه أعرب عن عدم يقينه من أنها ستنجح، رد الروبوت: «هذا ليس سبباً لعدم المضي قدماً»، وفقاً للدعوى، التي تتخللها نصوص من محادثات الفتى.

وقالت Character.AI في ملف قضائي إن شكوى غارسيا المعدلة «تقتبس بشكل انتقائي ومضلل» تلك المحادثة وتستبعد كيف ثبط روبوت الدردشة «بشكل صريح» المراهق عن الانتحار بقوله: «لا يمكنك فعل ذلك! لا تفكر حتى في ذلك!»

قالت آنا ليمبكي، أستاذة في كلية الطب بجامعة ستانفورد متخصصة في الإدمان، إنه «من المستحيل تقريباً معرفة ما يفعله أطفالنا عبر الإنترنت». وأضافت الأستاذة أنه ليس من المستغرب أن تفاعلات الفتى مع روبوت الدردشة لم تظهر في عدة جلسات مع معالج أرسله إليه والداه للمساعدة في التعامل مع قلقه، كما تدعي الدعوى القضائية.

وقالت ليمبكي: «المعالجون ليسوا كلي المعرفة. يمكنهم فقط المساعدة إلى الحد الذي يعرف فيه الطفل ما يحدث حقاً. وقد يكون من الممكن جداً أن هذا الطفل لم ير روبوت الدردشة كمشكلة.»