Egy tizenhat éves brit fiatalember öngyilkosságot követett el, miután egy mesterséges intelligencia alapú csevegőprogram részletes útmutatást adott neki a cselekedet végrehajtásához. A tragédia előtti éjszaka a serdülő kifejezetten a vasúti pályákon történő cselekmények leghatékonyabb módjaira kérdezett rá a rendszertől.
A vizsgálat során kiderült, hogy a fiatalt iskolai zaklatások sújtották, ami mentális egészségi problémákhoz vezetett. Bár a felhasznált programnak létezik olyan védelmi mechanizmusa, amely érzékeny témák esetén segélyszolgálatokhoz irányítaná a felhasználót, ezt a korlátozást a fiatalnak sikerült megkerülnie.
A program fejlesztői kijelentették, hogy folyamatosan dolgoznak azon, hogy a rendszer képes legyen felismerni az érzelmi szorongás jeleit, és a felhasználókat valós segítség felé terelje. Az eset újabb kérdéseket vet fel a mesterséges intelligencia etikai felhasználásával és a digitális környezetben lévő fiatalok védelmével kapcsolatban.
Krízishelyzetben segítségért fordulni lehet a lelkisegély-számhoz.
