Следующий порог медицинского ИИ — не точность

Регуляторы трёх юрисдикций ужесточили требования. В ЕС ввели штрафы до 35 млн евро или 7% оборота за нарушение прозрачности. FDA и EMA требуют стандарта ALCOA++ — полного аудита данных и изменений модели. В Китае NMPA запрещает самообучение алгоритмов: изменение, влияющее на безопасность, требует повторной регистрации. Ответ «мы не знаем, почему система так решила» более неприемлем.

Отрасль перестраивается. Компании заговорили о сопоставимости, прослеживаемости и перепроверяемости. Для клиник важнее не размер модели, а контур данных. Например, возврат данных теперь служит не обучению, а накоплению доказательств для будущей перерегистрации.

Первый рубеж был взят шесть лет назад: в Китае одобрено более 110 ИИ-медизделий. Лидерами стали не владельцы самых больших моделей, а компании, собравшие больше всего доказательств.

То же самое — в оплате. Страховка требует двойной подписи: заключение ИИ должен проверить врач.

Точность и бенчмарки — лишь первая ступень. Вторая — способность показать происхождение данных, каждое изменение модели и ответственного за решение. Этот барьер не преодолеть за одну ночь тренировок. Поэтому для многих компаний будущее было предопределено ещё три года назад.