Jak podaje "The Palm Beach Post", Darren Zhou, 25-letni mieszkaniec Florydy, trafił pod lupę śledczych po tym, jak w rozmowach z ChatGPT zaczął opisywać plany dotyczące swojej byłej partnerki. Według dokumentów sądowych pisał o gwałcie, zabójstwie, a także o możliwości zabicia siebie po dokonaniu zbrodni. - "Zabiję ją do końca tego miesiąca" – napisał Zhou. W innej wiadomości stwierdził: "Jeśli nie mogę jej mieć, nikt jej nie będzie miał".
Mężczyzna wcześniej pracował jako analityk Goldman Sachs. Po rozstaniu z dziewczyną zaczął rozmawiać z ChatGPT o swoim związku, zazdrości i chęci odzyskania partnerki. Z czasem jego wiadomości miały coraz bardziej groźny charakter.
Według śledczych nie chodziło o pojedynczy wybuch emocji. W rozmowach Zhou opisywał m.in. zainteresowania byłej partnerki, miejsca, które odwiedzała, oraz innych mężczyzn, których podejrzewał o zainteresowanie nią.
- To nie były niejasne wybuchy emocji - ocenił zastępca szeryfa, który analizował przekazane przez FBI wiadomości. Jego zdaniem zapisy pokazywały "schemat prób i planowania".
OpenAI ma zasady pozwalające pracownikom analizować rozmowy, gdy system wykryje możliwość wyrządzenia krzywdy innym osobom. W najpoważniejszych przypadkach firma może powiadomić organy ścigania. W tej sprawie FBI przekazało później policji w hrabstwie Palm Beach dwa miesiące historii rozmów Zhou.
Policjanci skontaktowali się z 21-letnią kobietą. Powiedziała, że zakończyła związek z powodu jego "nieprzewidywalnego, zazdrosnego i kontrolującego zachowania". Rozstała się z nim telefonicznie, ponieważ bała się jego reakcji.
Zhou miał później wielokrotnie dzwonić i pisać do byłej partnerki. Kontaktował się z nią także za pomocą mediów społecznościowych i różnych numerów telefonów. Kobieta zachowała wiadomości, które zawierały groźby, obelgi oraz treści seksualne.
Mężczyzna został aresztowany w maju. Spędził dwa dni w areszcie, po czym wpłacił 100 tys. dolarów kaucji. W czerwcu usłyszał trzy zarzuty - uporczywego nękania, pisemnego grożenia zabójstwem oraz nielegalnego korzystania z telefonu komórkowego. Niedawno, bowiem 13 sierpnia, przyznał się do winy. W ramach ugody uniknął więzienia i skazania za przestępstwo kryminalne. Sąd wymierzył mu osiem lat nadzoru kuratorskiego oraz nałożył szereg ograniczeń.
Jego adwokat Steven Bell przekonywał, że Zhou nie jest osobą agresywną i wcześniej nie był karany. - Przechodził przez bardzo trudny epizod związany ze zdrowiem psychicznym - powiedział.
Sprawa pokazuje jednocześnie, że rozmowy z chatbotami mogą stać się materiałem dla organów ścigania. W tym przypadku sztuczna inteligencja nie była jedynie narzędziem rozmowy – informacje z czatu pomogły uruchomić reakcję służb.