ИИ не способен защитить сообщества соцсетей от ИИ

В идеале социальные платформы становятся убежищем для тех, кто хочет поделиться опытом и знаниями. Они приближаются к этому идеалу, когда пользователи публикуют подлинный и ценный контент: будь то уникальная аналитическая статья или полезное видео о сборке компьютера. Но опора исключительно на алгоритмы для сохранения этой аутентичности упускает главное — то, что делает соцсети ценными, а именно людей, стоящих за публикациями.

Показательный случай произошёл в апреле. В Slack-канале модераторов Reddit-сообщества r/AskHistorians было необычно оживлённо. Канал, который автоматически получает ссылки на сообщения из модераторской почты, оказался переполнен уведомлениями после того, как десятки комментариев и постов десятилетней давности были автоматически удалены с сабреддита. Это наглядный пример того, как автоматизированная модерация может ошибочно стирать ценные обсуждения, нанося вред сообществу, которое она призвана защищать.

Полагаться только на ИИ в борьбе с ИИ-мусором — опасный путь. Вместо того чтобы сделать платформы чище, это рискует уничтожить живые голоса пользователей, ради которых всё и затевалось. Нужен разумный баланс между автоматизацией и человеческим суждением, иначе соцсети окончательно потеряют свою душу.