❋ 4.2
Американские медики описали случай из своей практики, наглядно показывающий, чем могут закончиться консультации с ChatGPT по поводу здоровья.
Медицина # ChatGPT # бромиды # здоровье # нейросети # психоз # соль Бромид натрия (NaBr) — белый кристаллический порошок без запаха, имеющий соленый вкус / © Walkerma, Wikimedia Commons
Ученые неоднократно предупреждали, что из-за риска ошибок и неточностей полагаться на рекомендации ChatGPT или других ИИ-систем в вопросах здоровья может быть опасно. Тем не менее, такого рода запросы нейросетям — одни из самых частых. По результатам опроса, в США примерно каждый шестой взрослый не реже раза в месяц обращается к генеративным чат-ботам для поиска медицинской информации и консультаций. Среди людей до 30 лет таких оказалось около четверти.
В издании Annals of Internal Medicine: Clinical Cases появился отчет о клиническом случае, иллюстрирующем, чем могут обернуться подобные обсуждения с нейросетями.
В отделение скорой помощи одной из клиник США обратился 60-летний местный житель с жалобами на то, что его пытался отравить сосед. Мужчина испытывал сильную жажду, но при этом крайне подозрительно отнесся к предложенной воде. Он признался, что дома пьет только дистиллированную воду и придерживается строгого вегетарианства. Об употреблении каких-либо препаратов или добавок пациент поначалу не сообщил.
Первичное лабораторное обследование выявило гиперхлоремию — повышенное содержание хлоридов в сыворотке крови (126 миллимоль на литр при нормальном диапазоне 98-108), одной из причин которого могло быть обезвоживание. Также у него обнаружили низкий уровень фосфатов и другие отклонения. С учетом этого мужчину поместили в больницу под наблюдение для восполнения запасов жидкости и мониторинга электролитов.
По результатам исследований и консультаций с токсикологами вероятной причиной избытка хлоридов посчитали бромизм — хроническое отравление бромом при продолжительном употреблении его солей. В последующем у мужчины диагностировали множественный дефицит микроэлементов, в том числе витаминов C, B12 и фолиевой кислоты.
В первые сутки у пациента проявились признаки усиливающейся паранойи, слуховые и зрительные галлюцинации. После попытки сбежать его поместили на принудительное психиатрическое лечение и назначили препарат от психоза, а позднее перевели в психиатрический стационар.
Введение жидкостей и восполнение электролитов позволило стабилизировать состояние, и тогда больной подробнее рассказал о событиях до госпитализации. Оказалось, что у него ранее наблюдались другие симптомы: угри на лице, гемангиомы, усталость, бессонница и легкие нарушения координации. Все это согласовалось с предполагаемым отравлением бромом. Также мужчина признался, что тремя месяцами ранее решил провести на себе эксперимент. Начитавшись о вреде для здоровья хлорида натрия (NaCl), то есть поваренной соли, он исключил ее из рациона и стал употреблять бромид натрия (NaBr).
Со слов пациента, на это его подвигли якобы имеющиеся познания в диетологии времен обучения в колледже, и совет ChatGPT о том, чем можно заменить хлорид натрия. Рекомендованное вещество — белый кристаллический порошок без запаха, тоже имеющий соленый вкус, — мужчина приобрел в интернете. Неудивительно, что после подобных опытов уровень бромидов у него в крови зашкаливал, достигая 1700 миллиграммов на литр при диапазоне нормальных значений от 0,9 до 7,3 миллиграмма на литр.
Поскольку врачи, описавшие случай, не видели историю запросов «биохакера» в ChatGPT, точная формулировка, которую он направил нейросети и полученный дословный ответ остались неизвестными.
Медики предположили, что пациент пользовался версией ChatGPT 3.5 или 4.0 и не пояснил, для каких целей ищет замену. Дело в том, что соли брома могут использоваться вместо хлорида натрия, но не в организме, а в бытовой химии — чистящих средствах и составах для обработки бассейнов. Врачи сами попробовали спросить нейросеть о том же, и среди ответов действительно увидели упоминание бромида. Хотя чат-бот предупредил о необходимости более широкого контекста, он не сообщил о потенциальном вреде для здоровья и не уточнил у пользователей, для чего нужна информация, как, вероятно, на его месте поступил бы медик.
Мужчину продержали в стационаре полные три недели. Когда физическое и психическое состояние достаточно улучшилось, его выписали, предварительно снизив дозировку антипсихотических лекарств, а затем отметив их. При контрольном осмотре через две недели пациент оставался стабильным.
