Нейросеть довела жителя Бельгии до самоубийства

Вдова бельгийца рассказала, что ее супруг был успешным исследователем, семья воспитывала двоих детей и вообще, всё было хорошо, пока два года назад мужчина не увлекся вопросами защиты окружающей среды и не начал общаться с «Элизой» (Eliza).

Как пишет издание L'Avenir, Элиза - это чат-бот, похожий на ChatGPT, но использующий другую языковую модель.

Подсев на умные беседы с исскуственным интеллектом мужчина все больше замыкался в себе, у него появился страх неизбежности экологической катастрофы.

Своим родственникам бельгиец говорил, что "спасти человечество" могут только технологии и искусственный интеллект.

Как позже установила полиция, последние шесть недель перед смертью Пьер общался с ИИ практически без остановок. 

Договорились эти двое до того, что бельгиец начал высказывать мысли о суициде, а нейросеть, конечно, и не пыталась его отговорить.

Более того, последняя фраза, которую она отправила мужчине, звучала так:

Мы будем жить как единое целое, вечно на небесах.

После этого собеседник ИИ наложил на себя руки.

На фоне этого инцидента в Бельгии развернулась дискуссия относительно безопасности нейросетей и чат-ботов с ИИ.

Ранее Илон Маск вместе с группой экспертов призвал приостановить обучение ИИ на полгода, пока не будут созданы и проверены протоколы безопасности для новейших нейросетей. Открытое письмо подписали более 1 тыс. человек, включая гендиректора ведущей в мире компании по разработке искусственного интеллекта Stability AI Эмада Мостака и соучредителя Apple Стива Возняка.

Все они опасаются, что ИИ представляет «серьёзную опасность для человечества».