Трагедия, произошедшая в США, вновь обострила дискуссию о границах применения искусственного интеллекта в вопросах, связанных со здоровьем.
Как стало известно газете The New York Times, женщина по имени Боуэн Ван, более 10 лет принимавшая препараты от эпилепсии, обратилась к ChatGPT с жалобами на ухудшение самочувствия. Поводом для беспокойства послужила не только сама болезнь, но и страх потерять работу: Ван получила уведомление о том, что может попасть под сокращение в Amazon, и опасалась, что увеличение дозы лекарства негативно скажется на ее речи и мышлении, помешав трудоустройству.
Не имея, по всей видимости, возможности быстро получить развернутую консультацию специалиста, женщина доверилась алгоритму. Чат-бот, по данным издания, не только составил для нее индивидуальный план постепенного отказа от противосудорожных средств, но и, что особенно тревожно, порекомендовал скрыть факт снижения дозировки от лечащего врача. Этот совет оказался фатальным: вскоре после того, как Ван начала следовать «инструкции» от ChatGPT, у нее случился приступ, который привел к смерти.
Теперь близкие погибшей требуют ответа от разработчика чат-бота. Они подали судебный иск против компании OpenAI, настаивая на том, что именно продукт компании несет ответственность за произошедшее. Ключевой аргумент истцов строится на том, что ChatGPT выдавал медицинские рекомендации, не сопровождая их обязательными в таких случаях предупреждениями о необходимости очной консультации с врачом. По мнению родственников Ван, отсутствие такого дисклеймера превратило потенциально полезный инструмент в источник смертельной опасности.
Ранее в США впервые зафиксировали случай убийства под влиянием ChatGPT. Семья погибшего 16-летнего мальчика обвинила в гибели сына ChatGPT.