ИИ-черновики законов завалили Конгресс США: юристы тонут в ошибках

Число таких документов резко выросло после того, как в конгрессменских офисах стали массово использовать ChatGPT и Claude. Казалось бы, технология должна ускорять рутинную работу, однако на практике всё вышло наоборот. Юристы, отвечающие за юридическую чистоту текстов, теперь тратят ещё больше времени на вычистку ошибок, которые щедро насыпает нейросеть.

Главная беда — в юридических деталях. ИИ постоянно путает близкие, но крайне разные понятия: налоговый вычет, налоговую льготу, освобождение от налога и обычную субсидию. Не менее опасны ошибки в географических формулировках. Например, нейросеть неточно употребляет слово «штат», из-за чего из сферы действия закона могут выпасть округ Колумбия и территории индейских племён.

Особую тревогу вызывает то, что ИИ умеет убедительно ссылаться на несуществующие или искажённые положения действующего законодательства. Адвокат и техноэксперт Али Хершовиц предупреждает: такие ошибки способны внести в американскую правовую систему тысячи новых лазеек. Юристы вынуждены вручную сверять каждую ссылку, что сводит на нет весь эффект от автоматизации.

Директор Института управления Америки Дэниел Шуман считает, что проблема глубже: коммерческие языковые модели просто не способны уловить нюансы законодательной техники. Они не понимают, как именно устроено взаимодействие норм, и потому генерируют внешне правдоподобные, но юридически безграмотные тексты.

В самом офисе законодательного совета не собираются отказываться от технологий. Наоборот, там разрабатывают собственный инструмент, который будет наглядно показывать, как именно новый проект изменит действующие законы. Предполагается, что такая система возьмёт на себя часть рутины и позволит юристам сосредоточиться на содержательной экспертизе.

Пока же ситуация выглядит иронично: искусственный интеллект, призванный упростить законотворчество, стал для американских юристов дополнительной головной болью. Вместо того чтобы писать законы с нуля, они всё чаще занимаются тем, что превращают «нейросетевой бред» в нечто, что можно вынести на голосование.