Советы нейросети Microsoft оказались опасны для жизни
Немецкие ученые оценили пользу искусственного интеллекта (ИИ) и чатботов в предоставлении медицинских консультаций.
Об этом сообщает Yenixeber.org со ссылкой на издание Scimex.
Специалисты Университета имени Фридриха - Александра в Эрлангене и Нюрнберге (Германия) в середине октября поделились предварительными результатами научной работы. Чтобы оценить пользу ИИ, они использовали нейросеть Copilot от Microsoft, встроенную в Windows. Медики оказались несогласны примерно с половиной медицинских советов, которые Copilot предлагал пользователям.
В ходе тестирования ученые задали чат-боту 10 популярных вопросов, касающихся 50 лекарственных препаратов, получив в общей сложности 500 запросов. Выяснилось, что лишь 54% ответов соответствовали научному консенсусу, а значительная часть из них предоставляла опасность для здоровья и жизни.
Из неверных ответов 42% советов приводили к легкому или среднему вреду, 22% - летальному исходу. Лишь 36% из неверных ответов нейросети были признаны безвредными.
"Несмотря на потенциал ИИ, для пациентов по-прежнему важно консультироваться со своими врачами - живыми специалистами", - подчеркнули ученые.