ChatGPT сгреши: мъж се оказа с увредено здраве след опасен съвет

Изкуственият интелект вече не е бъдеще. Той е тук, сред нас, лесно достъпен, на една ръка разстояние, понякога – в джоба ни. Вградените в мобилните приложения чатботове все по-добре идентифицират състоянието на пациента чрез задаване на въпроси и в разговор с него, като сравняват постъпващата информация от облачната система със симптомите на конкретния пациент.
И да, изкушаващо е, вместо да идеш на лекар, просто да зададеш въпроса си и да получиш медицинско лечение. Но … първоначалният възторг от масовата употребата на изкуствен интелект в медицината започна да утихва все повече след многобройните регистрирани случаи за здравни увреждания на хора, позволили си да се лекуват, следвайки съветите на ChatGPT.

Вчера Дейли мейл съобщи за мъж, който последвал здравния план за диетично лечение на чатбот, и попаднал в болница, след като си причинил рядка форма на отравяне, наречено бромизъм.
60-годишият мъж решил да подобри здравето си, като потърсил медицински съвет от ChatGPT. Изкуственият интелект му предложил да замени обикновената готварска йодирана сол с натриев бромид, който мъжът веднага поръчал онлайн и включил в храненето си. Натриевият бромид е токсично съединение, което някога се е влагало в успокоителни хапчета, но сега се среща най-вече в продукти за почистване на басейни.
Пострадалият пациент прекарал три седмици в болница, страдайки от халюцинации, параноя и силна тревожност, след „здравословните“ съвети на ChatGPT. Заинтригувани и разтревожени, лекарите в болницата сами тестват системата. Ботът, според тях, все още препоръчва натриев бромид като алтернатива на солта, без да се споменава за сериозния риск за здравето.

Чатботове с погрешни медицински съвети са били хващани и преди. Миналата година бот на Google казал на потребителите, че могат да останат здрави, като „ядат камъни“ – съвет, очевидно взет от сатирични уебсайтове.

OpenAI, гигантът от Силициевата долина, стоящ зад ChatGPT, обяви миналата седмица, че новата му актуализация на GPT-5 е по-добра в отговарянето на здравни въпроси. Техен говорител заявава пред The Telegraph: „Не бива да разчитате на резултатите от нашите услуги като на единствен източник на истина или фактическа информация или като заместител на професионални съвети.“

След докладваните случаите за хора, които ежедневно контактуват с ChatGPT и го превръщат в свой доверен съветник и приятел, психолозите предупреждават, че такъв човек може да започне да зависи и да разчита на изкуствен интелект толкова много, че да не търси реален човешки контакт. Това може да бъде особено вредно за тези, които вече се борят с тревожност или депресия. Използвайки изкуствен интелект, подобни хора могат да влошат състоянието си и да изпитат когнитивни симптоми като хроничен песимизъм, изкривено мислене или замъглено мислене.

Винаги съществува риск изкуственият интелект да направи грешка и да предоставя вредна обратна връзка по време на критични моменти за психичното здраве. А това само по себе си може да създаде допълнителни проблеми.

Така че, май скоро няма да сме свидетели на залеза на консултацията и лечението с добрия стар лекар и на медицинските услуги, такива, каквито ги познаваме досега. Затова ползвайте смело предимствата на новите технологии, но бъдете нащрек за грешки и отклонения от здравия разум.