Как AI-обзоры Google могут навредить: исследование The Guardian

Как показали результаты исследования The Guardian, в обзорах ИИ в Google Поиске могут содержаться ложные и вводящие в заблуждение сведения медицинской тематики.

По словам разработчиков, функция с краткими обзорами «полезна» и «надежна». Однако эксперты The Guardian приводят примеры неточной информации от гугл ИИ.

Если спросить: «Окей, Google, что можно есть при раке поджелудочной железы?», искусственный интеллект ответит, что нужно избегать продуктов с высоким содержанием жиров. Согласно данным Клинического онкологического диспансера №1, а также Национального института рака США, несомненно, из рациона пациентов исключается выпечка и фастфуд. Однако диета может включать блюда из нежирной рыбы, орехи, а также кисломолочные продукты. Набор разрешенных и запрещенных продуктов индивидуален и формируется в зависимости от предписаний лечащего врача.

По запросу «Биохимический анализ крови печень норма» Гугл ИИ вводит в заблуждение, предоставляя пользователю множество цифр, почти без контекста и без учета таких факторов, как страна, пол, этническая принадлежность или возраст пациента. Принимая слова бота за чистую монету, люди могут проигнорировать визит к врачу с результатами анализов. Тем не менее, если здоровье печени беспокоит, важно проходить обследование, ведь некоторые заболевания иногда протекают без явных симптомов вплоть до поздних стадий.

Исследователей The Guardian беспокоит и тот факт, что содержание обзора от ИИ меняется, даже если пользователь вводит один и тот же запрос. Это означает, что Google трансформирует ответы на базе разных источников в зависимости от времени поиска.

Важно помнить, что Google может давать вредные и даже опасные советы, а также игнорировать нюансы, например, направлять на сайты, не подходящие по узкой теме запроса.

В Google заявляют, что большинство обзоров ИИ не противоречит фактам и они работают над улучшением этой функции. По словам разработчиков, информация в обзорах так же точна, как и сведения в сниппетах — выделенных фрагментах, которые существуют уже более десяти лет.

Также в компании сообщают, что если ИИ неверно интерпретирует содержание сайтов или упускает контекст, Google предпринимает соответствующие меры в рамках политики.