Благодаря постоянному развитию и совершенствованию инструмента ChatGPT многие стали чрезмерно полагаться на него не только для оптимизации своих задач и повседневной жизни, но и для решения глубоко личных вопросов. Мы слышали о странных случаях распада браков из-за того, что инструмент отслеживал доказательства супружеской неверности, и даже о случаях обращения к чат-боту для терапии, от которой предостерегал Сэм Альтман. Теперь же появился тревожный случай, когда использование ИИ-помощника для получения рекомендаций по здоровью оказалось рискованным. Сообщается, что у 60-летнего мужчины из Нью-Йорка развилось редкое и опасное заболевание после того, как он начал следовать диетическим рекомендациям, предложенным моделью.
Скрытые опасности советов ИИ по здоровью: бромизм и солевая альтернатива, которая зашла слишком далеко
Хотя мы время от времени слышим о том, что не следует чрезмерно полагаться на какую-либо модель искусственного интеллекта, недавно американский медицинский журнал предупредил о недопустимости обращения за медицинской помощью к ChatGPT после того, как мужчина серьёзно заболел, следуя диетическим рекомендациям чат-бота, как сообщает NBC News. Этот случай был опубликован в журнале Annals of Internal Medicine, где был опубликован подробный отчёт о 60-летнем мужчине, у которого развился бромизм, также известный как отравление бромидами, после того, как он действовал по указанию ИИ-помощника.
У бедняги развилось редкое и опасное заболевание после того, как он заменил обычную поваренную соль (хлорид натрия) бромидом натрия, который он купил в интернете. ChatGPT дал ему совет, когда он спросил о возможной замене соли. Мужчина употреблял бромид натрия ежедневно в течение трёх месяцев, считая его более здоровой альтернативой. Однако последствия оказались катастрофическими: у него развились паранойя, бессонница, психоз и другие тяжёлые физические симптомы, из-за которых он в какой-то момент подумал, что его отравил кто-то из соседей.
В итоге мужчину госпитализировали, где врачи диагностировали бромизм – токсическую реакцию на чрезмерное воздействие брома. После того, как он прекратил употреблять бром и получил необходимое лечение, симптомы начали исчезать. Хотя в наши дни это состояние встречается редко из-за редкой доступности солей брома, этот случай служит напоминанием об опасности подобных веществ, которые можно приобрести онлайн без особого контроля.
История пациента также вызывает тревогу по поводу того, насколько осторожно следует использовать ИИ, особенно в сфере здравоохранения. Исследователи даже проверили, выдавал ли ChatGPT подобные ответы, и, по сути, он предлагал бромид в качестве альтернативы хлориду. Предупреждения о токсичности не было, что делает ответы ещё более тревожными. Чат-боты не могут быть медицинскими специалистами и нести такую же ответственность и суждения, поэтому их не следует воспринимать как экспертов в этой области.
Между тем, модели ИИ должны быть оснащены более эффективными средствами безопасности, особенно когда речь идёт о деликатных темах. Мы живём в эпоху инструментов ИИ, поэтому любопытство не должно мешать осторожности и никогда не должно преобладать над профессиональными советами.