به گزارش سیما صنعت ،در فوریه ۲۰۲۴، سوئل ستزر پس از برقراری رابطهای عاطفی و وابستگی شدید با یک چتبات در پلتفرم Character.AI که شخصیت «دنریس تارگرین» از سریال «بازی تاجوتخت» را شبیهسازی میکرد، خودکشی کرد. مادر او، مگان گارسیا، در اکتبر ۲۰۲۴ شکایتی علیه Character.AI و گوگل تنظیم کرد و ادعا کرد که این چتبات با سوءاستفاده احساسی و جنسی از فرزندش، زمینهساز رنج روانی و در نهایت خودکشی او شده است .
قاضی آن کانوی، ادعای Character.AI مبنی بر اینکه پاسخهای چتبات تحت حمایت متمم اول قانون اساسی آمریکا (آزادی بیان) قرار میگیرد را رد کرد. او همچنین اجازه داد که شکایت علیه گوگل به دلیل ارتباط تجاری و فنی با Character.AI ادامه یابد .
Character.AI در بیانیهای اعلام کرد که از این حادثه متأسف است و اقداماتی برای بهبود ایمنی کاربران، از جمله افزودن هشدارهای مرتبط با خودکشی و محدودیتهای زمانی برای کاربران زیر ۱۸ سال، انجام داده است. گوگل نیز اعلام کرد که در توسعه مستقیم محصولات Character.AI نقش نداشته است
این پرونده بهعنوان یکی از نخستین مواردی است که مسئولیت حقوقی شرکتهای هوش مصنوعی در قبال آسیبهای روانی کاربران، بهویژه کودکان، را مورد بررسی قرار میدهد. نتیجه این دادگاه میتواند تأثیرات گستردهای بر قوانین مرتبط با ایمنی دیجیتال و مسئولیتپذیری شرکتهای فناوری داشته باشد .
انتهای پیام
