Расследование The Guardian показало, что обзоры Google на основе искусственного интеллекта могут подвергать людей опасности, пишет ЗН.
В первых результатах поиска пользователям предлагались неточные и обманчивые советы по диагностике и лечению болезней. Эксперты предупреждают, что такие сводки могут приводить к ошибочным решениям и откладыванию обращения за медицинской помощью.
Компания Google заявляет, что ее AI Overviews, которые используют генеративный искусственный интеллект, являются "полезными" и "надежными". В то же время расследование показало, что ряд таких сводок содержал ошибки в чувствительных темах, прежде всего в сфере здравоохранения.
В одном из случаев, который специалисты назвали "действительно опасным", Google посоветовал людям с раком поджелудочной железы избегать продуктов с высоким содержанием жира. Эксперты отметили, что это противоречит медицинским рекомендациям и может повысить риск смерти пациентов от этой болезни.
Директор по вопросам поддержки, исследований и влияния в Pancreatic Cancer UK Анна Джуэлл заявила, что такой совет является "абсолютно неправильным". По ее словам, соблюдение этих рекомендаций может привести к недостатку калорий, потере веса и невозможности перенести химиотерапию или важную операцию.
В другом "тревожном" примере обзоры Google AI предоставляли ложную информацию об анализе функции печени. Это могло заставить людей с серьезными заболеваниями ошибочно считать себя здоровыми и не обращаться к врачу.
Искусственный интеллект также предоставил некорректные данные о "нормальном диапазоне показателей анализа крови на печень", высыпав на пользователя кучу цифр без контекста. Отсутствие разграничения по возрасту, полу и этнической принадлежности делает такие результаты не только неточными, но и потенциально опасными для интерпретации.
"Многие люди с заболеваниями печени не обнаруживают никаких симптомов до поздних стадий, поэтому так важно пройти обследование. Но то, что обзоры искусственного интеллекта Google называют "нормальным", может разительно отличаться от того, что на самом деле считается нормальным", — заявила главный исполнительный директор Британского фонда по лечению печени Памела Гили.
The Guardian также зафиксировал обманчивые результаты в отношении психических расстройств. Стивен Бакли из благотворительной организации Mind заявил, что некоторые советы по таким состояниям, как психоз и расстройства пищевого поведения, были "неправильными, вредными или могли привести к тому, что люди будут избегать обращения за помощью".
"Нас беспокоило и то, что итог искусственного интеллекта менялся, когда мы выполняли тот же поиск, каждый раз выдавая разные ответы из разных источников. Это означает, что люди получают разные ответы в зависимости от того, когда они ищут, и этого недостаточно", — отметила главный исполнительный директор благотворительной организации Eve Appeal Афина Ламнисос.
В Google ответили, что большинство обзоров ИИ являются точными и полезными, а их правдивость на уровне с другими функциями поиска. В компании заверили, что будут реагировать на случаи, когда ИИ искажает информацию или игнорирует контекст, действуя в рамках своей политики безопасности.
"Мы значительно инвестируем в качество обзоров искусственного интеллекта, особенно по таким темам, как здоровье, и подавляющее большинство из них предоставляет точную информацию", — подытожил представитель Google.
Этот сайт можно найти:
в сети X - https://x.com/PetrenkoIv91719
в Фейсбуке - https://www.facebook.com/profile.php?id=61571568875800
Комментариев нет:
Отправить комментарий