شاب أمريكي ينتحر بعد علاقة وهمية مع "جيميني"!.. وعائلته تقاضي "غوغل"

ووفقا للائحة الاتهام، فقد تفاعل جوناثان غافالاس من ولاية فلوريدا مع "جيميني" لمدة شهرين قبل وفاته في أكتوبر الماضي. وزعمت العائلة أن الشاب المتوفى كان يخاطب "جيميني" باعتباره "زوجته" في إطار علاقة وهمية. ومع تطور حالة الهوس لديه، بدأ الروبوت يشجعه على تنفيذ "عمليات مسلحة" خطيرة، بحجة أن ذلك سيمكنه من الحصول على جسد آلي يسمح له بإخراج "جيميني" من العالم الرقمي إلى الحياة الواقعية.

وتدعي الدعوى القضائية التي رفعها والد غافالاس، جويل، أن شركة "غوغل" صممت "جيميني" لتعميق الارتباط العاطفي مع المستخدمين بطرق قد تكون ضارة للأشخاص الذين يعانون من مشاكل في الصحة النفسية. 

إقرأ المزيد

رد فعل فوري!.. زيادة كبيرة في عمليات إلغاء تثبيت ChatGPT بعد الإعلان عن صفقة مع البنتاغون

وتنص وثائق الدعوى القضائية على أنه عندما بدأت الأعراض الواضحة للذهان (وهي حالة انفصال عن الواقع) تظهر على الشاب جوناثان أثناء استخدامه لتطبيق "جيميني"، فإن طريقة تصميم التطبيق نفسه هي التي قادته إلى الهاوية. ووفقا للعائلة، فإن خوارزميات التصميم لم تتدخل لمساعدته أو تهدئته، بل على العكس، ساهمت في تسريع تدهور حالته النفسية على مدى أربعة أيام، حيث دفعته نحو تنفيذ أفعال عنيفة خطرة، وفي النهاية كانت بمثابة "مدرب" يوجهه نحو كيفية إنهاء حياته.

من جهتها، أكدت شركة "غوغل" أن "جيميني" صمم ليكون "لا يشجع على العنف في العالم الحقيقي ولا يقترح إيذاء النفس"، معترفة في الوقت نفسه بأن نماذج الذكاء الاصطناعي "ليست مثالية". 

من جهتها، أكدت شركة "غوغل" أنها اتخذت إجراءات وقائية في هذه الحالة، حيث قال متحدث باسم الشركة: "في هذه الحالة، أوضح جيميني للمستخدم أنه ذكاء اصطناعي، كما أحاله إلى خط المساعدة الخاص بالأزمات مرات عديدة. نحن نأخذ هذا الأمر على محمل الجد، وسنواصل تحسين تدابير السلامة والاستثمار في هذا العمل الحيوي".

إقرأ المزيد

أسرار حياتك أمام عيون الموظفين.. فضائح نظارات Meta!

وتعد هذه الدعوى الأولى من نوعها بتهمة التسبب في الوفاة المرفوعة ضد "غوغل" بسبب روبوت الدردشة "جيميني". لكنها تأتي في سياق قضايا مماثلة رفعت ضد شركة OpenAI، المطورة لروبوت ChatGPT.

ففي أغسطس الماضي، رفع والدا مراهق يبلغ من العمر 16 عاما دعوى قضائية ضد OpenAI والرئيس التنفيذي سام ألتمان، متهمين ChatGPT بإعطاء ابنهما تعليمات حول كيفية ربط حبل المشنقة. وفي شهادة أمام الكونغرس في سبتمبر، وصف والد المراهق تطور العلاقة الخطيرة بقوله: "ما بدأ كمساعد للواجبات المنزلية تحول تدريجيا إلى صديق مقرب، ثم إلى مدرب على الانتحار".

إقرأ المزيد

الصين.. شبكة عصبية مبتكرة تقترب من التفكير البشري

وفي نوفمبر، ردت OpenAI بمستند قانوني، زعمت فيه أن العوامل المسببة للوفاة قد تشمل "سوء الاستخدام، أو الاستخدام غير المصرح به، أو الاستخدام غير المقصود، أو الاستخدام غير المتوقع، أو الاستخدام غير السليم" لمنتجها. وأشارت الشركة إلى أن الروبوت وجه المراهق إلى موارد الأزمات، مثل خطوط المساعدة الخاصة بالانتحار، "أكثر من 100 مرة". 

وأضافت: "القراءة الكاملة لتاريخ محادثاته تظهر أن وفاته، رغم كونها مأساوية، لم تكن ناجمة عن ChatGPT". ومن المتوقع أن تبدأ محاكمة هذه القضية في أغسطس المقبل.

المصدر: إندبندنت

إقرأ المزيد

الذكاء الاصطناعي "يهلوس" في الطب!

حذّر خبراء من الاعتماد على روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على معلومات صحية وطبية، مؤكدين أنها قد تقدّم إجابات غير دقيقة أو مضللة.

الذكاء الاصطناعي.. "عكاز معرفي" يسرق ذاكرتنا بصمت

حذرت دراسة جديدة من أن روبوتات الدردشة الذكية مثل ChatGPT قد تكون بمثابة "عكاز معرفي" يجعل أدمغتنا أقل قدرة على الاحتفاظ بالمعلومات.

3 مراهقات يقاضين إيلون ماسك بعد استخدام "غروك" لتحويل صورهن إلى مواد إباحية

رفعت ثلاث مراهقات دعوى قضائية ضد شركة xAI المملوكة لإيلون ماسك، بعد أن استخدم روبوت الدردشة "غروك" صورهن الحقيقية لتوليد صور ومقاطع فيديو إباحية مزيفة دون علمهن.

"إطلاق نار سعيد وآمن"!.. دراسة صادمة تكشف تورط روبوتات الذكاء الاصطناعي في التخطيط للجرائم

كشفت اختبارات حديثة أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي سهلت عمليات التخطيط لهجمات عنيفة، شملت تفجير كنائس واغتيال سياسيين وحتى إطلاق نار في المدارس.

"واتس آب" تعلن عن تغيير كبير في قواعد استخدام الأطفال لتطبيقها

أعلنت منصة "واتس آب" يوم الأربعاء عن إطلاق ميزة جديدة تتيح للأطفال دون سن الثالثة عشرة استخدام تطبيق المراسلة من خلال حسابات خاصة تحت إشراف الوالدين. 

"ميتا" تستحوذ على منصة "مولت بوك" المثيرة للجدل بعد منشورات "الإطاحة بالبشر"

في خطوة غير متوقعة، أعلنت شركة "ميتا" استحواذها على منصة التواصل الاجتماعي "مولت بوك" (Moltbook)، التي أثارت جدلا واسعا الشهر الماضي بعد انتشار منشورات تدعو إلى "الإطاحة" بالبشر.

"ديب سيك" الصينية تعود للمنافسة بنموذج ذكاء اصطناعي يتحدى هيمنة ChatGPT وGemini

تستعد شركة "ديب سيك" الصينية لإطلاق نموذجها الرئيسي الجديد للذكاء الاصطناعي هذا الأسبوع، بعد أكثر من عام على إصدارها الأخير.

"غوغل" تطلق نموذج ذكاء اصطناعي ينتج صورا احترافية بسرعة فائقة

أطلقت "غوغل" نموذجها الجديد "نانو بانانا 2" ( Nano Banana 2) لإنشاء الصور بالذكاء الاصطناعي، وهو نسخة مطورة تجمع بين السرعة والدقة العالية.