Рекомендации ChatGPT довели мужчину до больницы

Чат-бот предложил американцу заменить хлорид натрия на бромид, который в небольших количествах содержится в морской воде и некоторых минералах. Раньше его применяли в некоторых лекарствах. Но потом выяснилось, что в больших дозах он токсичен.

Мужчина, ничего не подозревая, заменил соль бромидом, который заказал в интернете. Через три месяца у него начались галлюцинации и сильная паранойя. Его госпитализировали.

Пациент, который раньше не имел проблем со здоровьем, заподозрил соседа в отравлении. Однако после лечения его состояние ухудшилось: появилась угревая сыпь и вишнёвые ангиомы. Врачи диагностировали бромизм.

Синдром, возникающий в результате длительного употребления брома, проявляется неврологическими симптомами: судорогами, тремором, спутанностью сознания и даже комой. Кроме того, он может привести к тревожности, депрессии, психозу, усталости и анорексии, а также другим проблемам со здоровьем.

«Вдохновлённый своим опытом изучения диетологии в колледже, мужчина решил провести эксперимент, исключив соль из своего рациона, — говорится в отчёте о случае. — Он заменил поваренную соль на бромид натрия, который купил в интернете после разговора с ChatGPT. ИИ подсказал, что хлорид можно заменить бромидом, хотя, вероятно, в других целях, например, для уборки».

После трёх недель в больнице мужчину выписали.

Случай был описан в медицинском журнале American College of Physicians. Авторы обратились к читателям: «ChatGPT и другие ИИ-системы могут генерировать научные неточности и способствовать дезинформации».

OpenAI, создатель ChatGPT, подчёркивает, что в условиях использования чётко сказано: «Не стоит полагаться на наши услуги как на единственный источник достоверной информации или как на замену профессиональной консультации. Сервис не предназначен для постановки диагнозов или лечения заболеваний».