Нейросеть довела жителя Бельгии до самоубийства
Мужчина покончил с собой после полутора месяцев общения с нейросетью по имени Eliza на темы защиты экологии и заботы о природе, пишет бельгийский портал L'Avenir со ссылкой на вдову покойного.
Вдова бельгийца рассказала, что ее супруг был успешным исследователем, семья воспитывала двоих детей и вообще, всё было хорошо, пока два года назад мужчина не увлекся вопросами защиты окружающей среды и не начал общаться с «Элизой» (Eliza).
Как пишет издание L'Avenir, Элиза - это чат-бот, похожий на ChatGPT, но использующий другую языковую модель.
Подсев на умные беседы с исскуственным интеллектом мужчина все больше замыкался в себе, у него появился страх неизбежности экологической катастрофы.
Своим родственникам бельгиец говорил, что "спасти человечество" могут только технологии и искусственный интеллект.
Как позже установила полиция, последние шесть недель перед смертью Пьер общался с ИИ практически без остановок.
Договорились эти двое до того, что бельгиец начал высказывать мысли о суициде, а нейросеть, конечно, и не пыталась его отговорить.
Более того, последняя фраза, которую она отправила мужчине, звучала так:
Мы будем жить как единое целое, вечно на небесах.
После этого собеседник ИИ наложил на себя руки.
На фоне этого инцидента в Бельгии развернулась дискуссия относительно безопасности нейросетей и чат-ботов с ИИ.
Ранее Илон Маск вместе с группой экспертов призвал приостановить обучение ИИ на полгода, пока не будут созданы и проверены протоколы безопасности для новейших нейросетей. Открытое письмо подписали более 1 тыс. человек, включая гендиректора ведущей в мире компании по разработке искусственного интеллекта Stability AI Эмада Мостака и соучредителя Apple Стива Возняка.
Все они опасаются, что ИИ представляет «серьёзную опасность для человечества».
Источник:
43 комментария
Год назад
Удалить комментарий?
Удалить ОтменаГод назад
Удалить комментарий?
Удалить ОтменаГод назад
Удалить комментарий?
Удалить ОтменаГод назад
Удалить комментарий?
Удалить ОтменаГод назад
Удалить комментарий?
Удалить ОтменаГод назад
Удалить комментарий?
Удалить Отмена