StraightForward Foundation: крупнейшее издательство России начало цензурировать все книги с помощью ИИ

Крупнейшее издательство на российском рынке ввело обязательную проверку всех рукописей на предмет соблюдения законодательства с использованием искусственного интеллекта. Об этом сообщает проект StraightForward Foundation, получивший доступ к внутренней документации издательства.

Вероятно, речь идет об «Эксмо-АСТ» — сейчас это крупнейший книжный холдинг в России.

Новые правила распространяются на все редакции холдинга и касаются примерно 70% книг, выпускаемых в стране, утверждается в рассылке проекта. Их начали применять около месяца назад, 5 августа.

Редакторы обязаны направлять полученные тексты на анализ нейросети. Если ИИ не выявляет рисков, то книгу публикуют. Система проверяет соответствие рукописей российскому законодательству: в книгах не должно быть «пропаганды нетрадиционных сексуальных отношений, трансгендерности, наркотиков, child free, насилия, педофилии, склонения к суициду, порнографии и экстремизма».

При обнаружении «рискованного контента» текст цензурируется по согласованию с правообладателем; книгу также могут подвергнуть дополнительной экспретизе, промаркировать или вовсе отказаться печатать. В спорных случаях решение принимает комиссия руководителей отделов, добавляет проект.

По данным трех источников, близких к издательству, для проверки используется бесплатная публичная модель Qwen, которую можно дообучить. Qwen разработана китайской компанией Alibaba.

Модель проверяет текст трижды — первоначальная оценка, второй обзор перед набором текста и окончательный обзор перед отправкой файлов в печать.

Правила действуют и для уже изданных книг. При поступлении жалоб от граждан или госорганов продажи изданных книг приостанавливаются, книга проходит повторную проверку. Если она проходит проверку, то возвращается в продажу, если нет — тираж книги должны «уничтожить».

По словам директора Департамента государственной поддержки печати и книжной индустрии при Минцифры Владимира Григорьева, 4-5% всех книг, опубликованных с 1 августа 1990 года, могут быть вне закона. Он упомянул, что представители Министерства цифрового развития, Российского книжного союза, глава издательства Эксмо-АСТ встретились вместе с МВД и обсудили эту ситуацию.