Китайская ассоциация потребителей предупредила о рисках ИИ-сервисов

В сообщении ассоциации выделяются два типа ИИ. Первый — это общедоступные генеративные сервисы вроде чат-ботов, которые отвечают на основе открытых данных и не являются официальным мнением конкретной компании. Они могут давать необоснованные обещания, например гарантировать выплаты, которых не существует, или советовать обратиться в несуществующие инстанции. Второй тип — ИИ-помощники, внедрённые самими компаниями для обслуживания клиентов. Они участвуют в описании товаров, разъяснении тарифов и обработке претензий, но иногда сообщают неверные сведения о ценах или условиях акций, а после спорной ситуации компании пытаются уйти от ответственности, ссылаясь на «автоматический ответ».

Ассоциация напоминает, что по законам КНР потребитель вправе получать достоверную информацию о товарах и услугах. Поэтому операторы обязаны следить за корректностью ответов ИИ и не могут просто заявлять, что ошибку сгенерировал алгоритм. Для снижения рисков рекомендуется использовать официальные каналы компаний и консультироваться со специалистами, прежде чем совершать серьёзные шаги. Самим поставщикам ИИ советуют улучшить качество контента, усилить проверку фактов и сделать более заметными предупреждения о возможных неточностях.