Google AI Mode уклоняется от ответа о победителе выборов 2020 года в США
1
-
2
Формулировка выглядит издевательски вежливой: чтобы ознакомиться с официальными результатами и статистикой выборов 2020 года, включая итоги коллегии выборщиков и подсчёт голосов, обратитесь, мол, к отчёту FEC. При этом, как выяснилось в ходе тестов, тот же AI Mode без запинки и вполне корректно отвечает на вопросы о победителях других президентских гонок — начиная с 2000 года . Более того, в тестах журналистов система порой уходила от прямого ответа и по выборам 2024 года, отправляя всё к той же FEC, а по выборам 2012-го выдавала ссылку на базу данных American Presidency Project вместо имени победителя .-
3
Самое интересное начинается, когда сравниваешь поведение разных продуктов Google. Стоит задать тот же вопрос чат-боту Gemini — отдельному приложению, а не встроенному в поиск режиму, — и он спокойно отвечает: победил Байден, вот вам цифры голосов выборщиков и популярного голосования . Разница в поведении двух ИИ-систем одной компании выглядит особенно странно на фоне подготовки к промежуточным выборам в США, которые должны пройти в начале ноября. Google как раз продвигает свои инструменты для поиска информации о выборах, и тут такой конфуз .-
1
-
2
Ситуация усугубляется тем, что география ответов тоже имеет значение. Пользователи из США получают уклончивую отсылку к FEC, а при подключении через VPN из Тайваня, России, Франции или Канады AI Mode в тех же тестах отвечал прямо и называл победителя . Повторные запросы порой тоже меняли картину: система вдруг выдавала конкретный результат, ссылаясь на данные Google Civics. На просьбу объяснить своё поведение AI Mode сослался на «строгие фильтры безопасности» для недавних и чувствительных электоральных тем, которые автоматически направляют пользователя к заверенным государственным базам данных, чтобы избежать распространения непроверенной информации . Правда, доверять самообъяснениям языковых моделей о внутренних механизмах своей работы — занятие сомнительное, о чём сами разработчики не устают напоминать.-
5
-
7
Google уже отреагировал на волну внимания. В ответе на пост в соцсети Bluesky официальный аккаунт компании признал, что ответ AI Mode «не самый полезный», и пообещал разобраться . Позже в компании уточнили, что проблема связана с «техническим пробелом»: системы проверяют электоральные ответы по новостным статьям или данным Associated Press для недавних выборов и по историческим записям для более старых, но с 2020 годом что-то пошло не так. То же самое, по словам Google, касается и данных по выборам в Сенат в 2022 году — их тоже обещают починить .-
2
-
9
Пока же складывается почти анекдотичная картина. Крупнейшая поисковая компания мира, вложившая колоссальные ресурсы в генеративный ИИ, не может заставить свой продукт произнести вслух факт, который уже несколько лет является частью официальной американской истории. И ладно бы речь шла о прогнозе будущих выборов или оценке спорных утверждений — так нет, вопрос касается события, результаты которого давно сертифицированы. В Fast Company подсчитали: одному из журналистов потребовалось восемь попыток, чтобы добиться от AI Mode признания победы Байдена. В конце концов система призналась, что «перестаралась» с осторожностью, из-за чего попала в «уклончивую петлю», которая выглядела защитной или политически мотивированной, хотя на деле была провалом в балансе между строгостью и полезностью . Пожалуй, лучшего описания того, что происходит с современными ИИ-продуктами на политически чувствительных темах, придумать сложно.-
10
Источник: arstechnica.com
Поделиться