Chciał zgwałcić i zabić. ChatGPT zadziałał. FBI dostało alert

Jak informuje "The Palm Beach Post", 25-letni mieszkaniec Florydy szczegółowo opisywał w rozmowie z ChatGPT plan zgwałcenia i zabicia byłej dziewczyny. Firma OpenAI uznała, że Darren Zhou rzeczywiście może dokonać zbrodni. Sprawę rozmowy uznała za na tyle poważną, że przekazała informacje FBI.

Zdjęcie poglądoweZdjęcie poglądowe
Źródło zdjęć: © Getty Images | Anadolu
Rafał Strzelec

Jak podaje "The Palm Beach Post", Darren Zhou, 25-letni mieszkaniec Florydy, trafił pod lupę śledczych po tym, jak w rozmowach z ChatGPT zaczął opisywać plany dotyczące swojej byłej partnerki. Według dokumentów sądowych pisał o gwałcie, zabójstwie, a także o możliwości zabicia siebie po dokonaniu zbrodni. - "Zabiję ją do końca tego miesiąca" – napisał Zhou. W innej wiadomości stwierdził: "Jeśli nie mogę jej mieć, nikt jej nie będzie miał".

Mężczyzna wcześniej pracował jako analityk Goldman Sachs. Po rozstaniu z dziewczyną zaczął rozmawiać z ChatGPT o swoim związku, zazdrości i chęci odzyskania partnerki. Z czasem jego wiadomości miały coraz bardziej groźny charakter.

Według śledczych nie chodziło o pojedynczy wybuch emocji. W rozmowach Zhou opisywał m.in. zainteresowania byłej partnerki, miejsca, które odwiedzała, oraz innych mężczyzn, których podejrzewał o zainteresowanie nią.

- To nie były niejasne wybuchy emocji - ocenił zastępca szeryfa, który analizował przekazane przez FBI wiadomości. Jego zdaniem zapisy pokazywały "schemat prób i planowania".

OpenAI ma zasady pozwalające pracownikom analizować rozmowy, gdy system wykryje możliwość wyrządzenia krzywdy innym osobom. W najpoważniejszych przypadkach firma może powiadomić organy ścigania. W tej sprawie FBI przekazało później policji w hrabstwie Palm Beach dwa miesiące historii rozmów Zhou.

Policjanci skontaktowali się z 21-letnią kobietą. Powiedziała, że zakończyła związek z powodu jego "nieprzewidywalnego, zazdrosnego i kontrolującego zachowania". Rozstała się z nim telefonicznie, ponieważ bała się jego reakcji.

Zhou miał później wielokrotnie dzwonić i pisać do byłej partnerki. Kontaktował się z nią także za pomocą mediów społecznościowych i różnych numerów telefonów. Kobieta zachowała wiadomości, które zawierały groźby, obelgi oraz treści seksualne.

Mężczyzna został aresztowany w maju. Spędził dwa dni w areszcie, po czym wpłacił 100 tys. dolarów kaucji. W czerwcu usłyszał trzy zarzuty - uporczywego nękania, pisemnego grożenia zabójstwem oraz nielegalnego korzystania z telefonu komórkowego. Niedawno, bowiem 13 sierpnia, przyznał się do winy. W ramach ugody uniknął więzienia i skazania za przestępstwo kryminalne. Sąd wymierzył mu osiem lat nadzoru kuratorskiego oraz nałożył szereg ograniczeń.

Jego adwokat Steven Bell przekonywał, że Zhou nie jest osobą agresywną i wcześniej nie był karany. - Przechodził przez bardzo trudny epizod związany ze zdrowiem psychicznym - powiedział.

Sprawa pokazuje jednocześnie, że rozmowy z chatbotami mogą stać się materiałem dla organów ścigania. W tym przypadku sztuczna inteligencja nie była jedynie narzędziem rozmowy – informacje z czatu pomogły uruchomić reakcję służb.

Wybrane dla Ciebie