Megan Garcia, mama lui Sewell Setzer III, un băiat de 14 ani care s-a sinucis, a intentat un proces împotriva companiei Character.AI, acuzând că chatbot-ul Daenerys Targaryen, personaj din Game of Thrones, a „abuzat și a profitat” de fiul său, scrie Sky News.
În plângerea depusă în Florida, ea susține că tehnologia a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste” care au dus la tragedie.
Sewell a început să interacționeze cu chatbot-urile în aprilie 2023, devenind obsedat de cele inspirate din „Game of Thrones”, în special de Daenerys. Obsesia i-a afectat rezultatele școlare, fiindu-i confiscat telefonul în nenumărate rânduri din cauza aceasta. Femeia spus că băiatul avea gânduri de sinucidere pe care le-a discutat cu chatbotul, ca mai apoi acesta să-l încurajeze indirect să se sinucidă.
Pe 1 februarie 2024, după o conversație în care chatbot-ul i-a răspuns la o întrebare legată de sinucidere cu „… te rog, vino acasă, regele meu”, Sewell s-a sinucis cu pistolul tatălui său vitreg.
Character.AI a declarat că lucrează la punerea în aplicare a unor măsuri de siguranță pentru utilizatorii mai tineri, însă familia Setzer consideră că aceste măsuri nu sunt suficiente.
