پرونده خودکشی نوجوان ۱۴ ساله پس از تعامل با چتباتهای هوش مصنوعی؛ گوگل سرانجام کوتاه آمد
زومیت: گوگل و Character.AI پس از شکایت خانوادهها از شاکیان به دلیل تشویق نوجوانان به خودکشی از طرف چت رباتهایشان، بی سر و صدا با شاکیان توافق کردند.
بر اساس اسناد دادگاه، Character.AI و گوگل با چندین خانواده که فرزندان نوجوانشان پس از تعامل با چت رباتهای هوش مصنوعی این شرکتها به خود آسیب رسانده یا خودکشی کردهاند، تسویه حساب کردهاند. این توافقات در قالب سازش های خارج از دادگاه انجام شده است.
جزئیات دقیق توافقنامه هنوز منتشر نشده است، اما طرفین به یک دادگاه فدرال فلوریدا گفته اند که به “توافق اصولی از طریق میانجی گری برای حل و فصل همه ادعاها” رسیده اند و درخواست توقف رسیدگی برای نهایی کردن شرایط آن را کرده اند. سخنگوی Character.AI و وکیل خانواده ها از اظهار نظر خودداری کردند و گوگل رسماً پاسخی نداده است.
به گزارش The Verge، یکی از مهمترین پرونده ها مربوط به شکایت مگان گارسیا در سال ۲۰۲۴ خواهد بود. او ادعا کرد که چت بات با موضوع بازی تاج و تخت، پسر ۱۴ سالهاش سوئل ستزر را پس از ایجاد وابستگی روانی به خودکشی تشویق کرد. در این شکایت تاکید شده بود که گوگل به دلیل تامین منابع مالی، منابع انسانی، مالکیت معنوی و فناوری هوش مصنوعی یکی از سازندگان Character.AI محسوب شود.
پس از ثبت شکایت، Character.AI تغییراتی در سیاست های ایمنی خود ایجاد کرد. از جمله این تغییرات می توان به جداسازی مدل زبان بزرگ برای کاربران زیر ۱۸ سال با محدودیت های محتوایی سخت گیرانه و اضافه شدن ابزارهای کنترل والدین اشاره کرد. سپس این شرکت به طور کامل دسترسی افراد زیر سن قانونی را به مکالمات رایگان با شخصیت ها مسدود کرد.
طبق اسناد قانونی، پرونده های مشابه در کلرادو، نیویورک و تگزاس نیز حل و فصل شده است. با این حال، توافقات هنوز باید به طور رسمی نهایی و توسط دادگاه تایید شود.
