Google удалил медицинские ИИ-обзоры после критики Guardian

Расследование газеты Guardian показало, что обзоры искусственного интеллекта Google могут давать вводящую в заблуждение информацию по некоторым медицинским запросам. Компания решила удалить эти ИИ-обзоры, пишет TechCrunch.

Guardian первоначально обнаружила, что, например, на вопрос о нормальном диапазоне показателей анализа крови на функцию печени ИИ предоставлял ошибочные цифры. Они не учитывали такие факторы, как возраст, пол или этническую принадлежность, что могло привести к неверной интерпретации результатов пользователями.

Теперь ИИ-обзоры по ключевым запросам, упомянутым в статье, исчезли из результатов поиска. Однако некоторые вариации по-прежнему остаются. Например, можно перефразировать просьбу, и нейросеть снова выдаст свои результаты.

Представитель Google отказался комментировать отдельные случаи удаления информации, но отметил, что компания работает над улучшением выдачи. По словам собеседника TechCrunch, внутренняя группа врачей проанализировала спорные запросы и во многих случаях не нашла в ответах ИИ неточностей, сославшись на их соответствие информации с качественных медицинских сайтов.

Эксперты, включая директора по коммуникациям Британского фонда по борьбе с заболеваниями печени Ванессу Хебдич, считают удаление таких ответов позитивным шагом, но подчеркивают, что это не решает более масштабную проблему. Потенциальные риски использования ИИ-обзоров в сфере здравоохранения остаются довольно пугающими.