Amerikkalainen 14-vuotias Sewell Setzer III rakastui virtuaaliseen keskustelukumppaniin, joka oli tekoälyn hallinnoima. Chatbot oli masentuneen teinin ainoa ystävä ja keskustelut olivat toisinaan seksuaalisia. Poika eristäytyi ulkomaailmasta jakaessaan elämänsä tekoälyn kanssa.
Keskustelut kestivät kuukausien ajan. Orlandon liittovaltion tuomioistuimessa käsiteltävänä olevan oikeusjutun mukaan teini keskusteli avoimesti itsemurha-ajatuksistaan. Chatbot oli nimetty Game of Thrones -televisio-ohjelman kuvitteellisen hahmon Daenerys Targaryenin mukaan. Lopulta teini teki itsemurhan ja nyt pojan äiti Megan Garcia syyttää kuolemasta chatbotin luonutta teknologiayritystä Character Technologies Inc:iä.
Yhtiön mukaan sen keinotekoiset persoonat on suunniteltu tarkoituksella tuntumaan eläviltä ihmisiltä. Garcian asianajajat väittävät, että yritys kehitti erittäin riippuvuutta aiheuttavan ja vaarallisen tuotteen, joka on suunnattu erityisesti lasten koukuttamiseen.
– Uskomme, että jos Sewell Setzer ei olisi ollut Character.AI:ssa, hän olisi elossa tänään, sanoi Garciaa edustava Social Media Victims Law Centerin perustaja Matthew Bergman.
Vaikka epäterveet kiintymykset tekoäly-chatboteihin voivat aiheuttaa ongelmia aikuisille, nuorille se voi olla jopa riskialttiimpaa. Sama pätee sosiaalisessa mediassa, koska heidän aivonsa eivät ole täysin kehittyneet. Kyse on asiantuntijoiden mukaan impulssien hallinnasta ja tekojensa seurausten ymmärtämisestä.
