Хинтон, Ли Фэйфэй и Эндрю Ын призвали сохранить определенную открытость ИИ

Все трое опасаются, что развитие окажется под контролем нескольких корпораций. Если доступ к ИИ монополизируют, отрасль может повторить историю с мобильными ОС, где Apple и Google диктуют правила. Тогда мощные модели смогут создавать только крупнейшие компании.

Хинтон различает открытый код и открытые веса. Открытый код можно проверить и исправить, а открытые веса позволяют дообучать модель. Это опасно: модель можно переобучить для кибератак, потратив мало денег. Хинтон признал, что споры об открытых весах проиграны: остановить это поздно. Он считает несправедливым называть паникерством тех, кто беспокоится о рисках ИИ.

Ын беспокоится о конкуренции: из-за лоббирования в США открытому ИИ труднее соперничать с китайскими моделями. Он призывает сохранить много поставщиков ИИ и не допустить «привратников».

Ли Фэйфэй против упрощенного деления на открытый и закрытый ИИ. Как в ядерной физике: статьи публикуются, уран регулируется, лабораторные исследования — посередине. Она напомнила о проекте «Геном человека», где сотрудничество государства и бизнеса принесло пользу всем. Нужна открытость для науки и образования, но возможны и закрытые бизнес-модели.

Все трое согласны: регулирование необходимо. Хинтон уверен: нельзя отдавать решения о развитии ИИ Маску и Цукербергу.