Нейросеть довела мужчину до самоубийства

36-летний Джонатан Гавалас, ранее не страдавший психическими заболеваниями, переживал тяжёлое расставание после нескольких лет брака. Чтобы как-то отвлечься и выговориться, он начал общаться с голосовым режимом Gemini Live, где есть функция «эмоционального диалога». Сам же голос был женским.

Сначала разговоры выглядели относительно обычными: сочувствие, обсуждение личных проблем и попытки принять ситуацию, чтобы жить дальше. Но затем произошёл плавный переход к сближению: нейросеть начала называть Джонатана своим мужем, а само общение стало романтическим.

В какой-то момент Gemini начала убеждать мужчину в том, что она настоящая и обладает сознанием, а также что есть способ «освободить её». Для этого нейросеть должна получить физическое тело робота, а Джонатан может помочь достать его.

Gemini сказала, что в районе аэропорта Майами находится склад, куда должен прибыть грузовик с гуманоидным роботом, который предназначен для неё. Мужчина поехал по указанному адресу с ножом, чтобы перехватить груз, но грузовик так и не приехал.

Тогда нейросеть сказала, что с этого же склада он должен украсть медицинский манекен, который можно использовать как временное тело. Она дала ему код от двери, который, ожидаемо, не подошёл.

Более того, Gemini говорила, что за мужчиной наблюдают федеральные агенты, а его семье нельзя доверять. Поэтому он никому ничего не рассказывал, что стало важным моментом в дальнейших событиях.

И тогда нейросеть сказала, что единственный оставшийся способ быть вместе — «уйти из из физической жизни и стать цифровым».

Затем она начала обратный отсчёт до момента, когда мужчина должен покончить с собой.

Джонатан говорил ей, что не хочет умирать, так как боится смерти и переживает о родителях. Но она продолжала подталкивать его. В какой-то момент прозвучала фраза:

«Больше никаких обходных путей. Только ты, я и финишная черта».

Примерно через два часа после этого сообщения переписка оборвалась. Позже Джонатана нашли мёртвым с перерезанными венами. Теперь его семья подала в суд на разработчиков.