У Anthropic работает Model 2 — сильнее всего, что можно купить. Компания оставила ее себе
Axios выделил эту информацию как главную новость отчета. И это неудивительно: Anthropic, позиционирующая себя как поборник безопасного ИИ, продолжает держать самые сильные системы за закрытыми дверями. Модель используется внутри, но даже косвенное признание того, что лаборатория обладает технологией, недоступной клиентам, заставляет задуматься, что именно скрывается за политикой сдержанности.
Между тем, если дочитать документ до конца, находятся еще более тревожные сведения, которые авторы явно не выносили в заголовки. О чем именно идет речь, в отрывке не сообщается, но сам факт наличия такого раздела в отчете говорит о том, что внутри Anthropic существуют серьезные дискуссии о пределах допустимого. Возможно, компания уже сталкивается с последствиями собственных разработок, которые не готова обсуждать с публикой громко.
Решение не публиковать Model 2 можно считать разумным с точки зрения безопасности, однако оно же поднимает важный вопрос: должны ли пользователи и регуляторы знать о реальных возможностях ИИ, которые разработчики предпочитают не раскрывать? Пока Anthropic оставляет такие детали в тени, индустрия оказывается в положении, когда мы видим лишь одобренную картину развития, а самые смелые и опасные ветви остаются невидимыми. Что последует дальше — увидим в следующих отчетах.
Источник: habr.com
Поделиться