476 000 новостей против нейронки: пять попыток заставить текст предсказывать цену
Однако главное не сам нулевой результат, а то, как именно каждая попытка проваливалась. Два подхода сначала даже показали улучшение на бэктесте. Если бы исследователь остановился на средней цифре, он бы сейчас с уверенностью рассказывал, что нейросеть с новостями торгует лучше. Но детальный разбор вскрыл, что эти улучшения — артефакт, обман данных. Именно поэтому так важно смотреть не только на итоговые метрики, но и на механику работы модели.
В статье подробно разбираются все пять механизмов: что строилось, какие признаки считались, какие цифры были получены и в каком месте каждая версия вводила в заблуждение. Это обещанное продолжение материала про сидовый шум, который может менять результат на десять процентных пунктов. Теперь протокол проверки применяется к живому сквозному примеру с новостями. Вывод простой: прежде чем верить в силу нейронок и текстов, нужно уметь отличать реальную закономерность от случайной удачи на исторических данных.
Источник: habr.com
Поделиться