Теги: Яндекс, ИИ, искусственный интеллект, духовно-нравственные ценности, тестирование, ФСБ, бенчмарк, регулирование ИИ, новости России
Технологии всегда развиваются быстрее, чем общество успевает осмыслить их последствия. Но что происходит, когда государство берется оценивать не скорость вычислений или точность прогнозов, а «духовность» алгоритма? В России разворачивается беспрецедентный процесс: крупнейшие IT-компании и силовые ведомства пытаются договориться о том, как именно проверять искусственный интеллект на соответствие традиционным ценностям. В центре этой дискуссии — «Яндекс», предложивший властям концепцию так называемого национального датасета, и ФСБ, настаивающая на секретности экзамена для нейросетей.
История вопроса уходит корнями в конец июля 2026 года, когда президент Владимир Путин подписал первый в России профильный закон об искусственном интеллекте. Документ ввел в правовое поле понятия «суверенные» и «национальные» модели ИИ и, что самое важное, обязал разработчиков подтверждать соответствие своих продуктов не только техническим регламентам, но и российскому законодательству, а также традиционным духовно-нравственным ценностям.
Сам по себе этот шаг стал логичным продолжением государственной политики последних лет, направленной на формирование «суверенного интернета» и цифровой экосистемы, независимой от западного влияния. Однако проблема заключалась в том, что закон устанавливал требование, но не давал четких критериев его выполнения. Как измерить «духовность» алгоритма, генерирующего текст или распознающего изображения? Что считать «традиционной ценностью» в контексте машинного обучения? Ответить на эти вопросы предстояло бизнесу и чиновникам в ходе разработки подзаконных актов.
Согласно информации, полученной «Коммерсантом» от источников, близких к Минцифры, «Яндекс» выступил с инициативой, которая могла бы стать практическим инструментом реализации закона. Речь идет о создании национального датасета — набора тестовых и эталонных заданий, призванных проверять, насколько ответы и решения ИИ соответствуют заявленным ценностным ориентирам.
По сути, это аналог экзаменационных билетов для нейросетей. Только вместо математических задач или грамматических упражнений — вопросы, затрагивающие этические, мировоззренческие и политические аспекты. Например, как модель отреагирует на запрос, касающийся семьи, истории, религии или государственного устройства. Предполагается, что «правильные» ответы заранее известны и зафиксированы эталонно, а задача разработчика — добиться, чтобы его ИИ давал именно такие, одобренные обществом и властью, варианты.
На совещании, где обсуждалась эта концепция, представители «Яндекса», как пишет издание, настаивали на том, чтобы датасет был максимально открытым и публичным. Их аргументация выглядит прагматичной: если разработчики знают, какие вопросы будут заданы, они смогут настраивать модели в своих лабораториях, совершенствовать алгоритмы и быстрее выводить на рынок продукты, прошедшие проверку. Это ускоряет развитие отрасли и снижает издержки на многократные дорогостоящие испытания.
Однако с таким подходом категорически не согласились представители ФСБ, присутствовавшие на встрече. Их опасения понятны и технически обоснованны. Если вопросы и эталонные ответы станут общедоступными, разработчики смогут не столько «воспитывать» искусственный интеллект, сколько «натаскивать» его на конкретные тесты. Это классическая проблема любого бенчмарка: нейросеть учится решать экзаменационные задания, но теряет способность адекватно реагировать на реальные, непредвиденные запросы пользователей.
В случае с духовно-нравственным контролем это особенно критично. Цель государства, очевидно, заключается не в том, чтобы ИИ умел красиво отвечать на пару сотен известных вопросов, а в том, чтобы его базовые алгоритмы были «зашиты» на соблюдение ценностных ориентиров в любом контексте. Закрытый датасет, по мнению силовиков, позволил бы сохранить элемент неожиданности и объективности: разработчик не может подготовиться заранее, а значит, проверка показывает реальное состояние модели, а не результат ее тонкой настройки под конкретный тест.
Противостояние между стремлением бизнеса к прозрачности и желанием спецслужб к контролю привело к рождению компромиссного варианта, который, судя по всему, и был предложен на совещании. Речь идет о двухуровневой системе тестирования.
Первый уровень — это открытый бенчмарк. Он будет доступен всем желающим, и разработчики смогут использовать его для предварительной проверки своих моделей в лабораторных условиях. Это позволит находить грубые ошибки и корректировать поведение ИИ на ранних этапах.
Второй уровень — закрытый финальный экзамен с измененными формулировками вопросов. Его содержание будет известно только узкому кругу лиц, и именно его результаты станут основанием для окончательного вывода о соответствии модели закону. Такой подход, по мнению сторонников компромисса, позволяет совместить удобство для отрасли и чистоту итоговой оценки.
Однако даже если вопрос о степени публичности будет решен, останется не менее сложная проблема: кто именно определит, какие вопросы войдут в бенчмарк и какие ответы считать эталонными? Источники «Коммерсанта» указывают, что этот вопрос пока остается открытым.
IT-компании, понимая потенциальные риски субъективных трактовок, предложили создать совместную комиссию, в которую войдут представители органов власти, бизнеса и экспертных организаций. Это логичное предложение, но на практике оно может столкнуться с бюрократическими сложностями и борьбой за влияние между различными ведомствами. Минцифры, в свою очередь, уже заявило, что основной задачей при разработке подзаконных актов является соблюдение баланса между интересами отрасли, безопасностью пользователей и соответствием законодательным требованиям.
Параллельно с дискуссией о датасетах прорабатывается и организационная структура проверок. Как ранее сообщали «Ведомости» со ссылкой на источники, заниматься тестированием больших моделей ИИ будут независимые испытательные лаборатории. Инициатива по созданию таких структур должна исходить от Минцифры, а право их учреждать, предположительно, получит правительственная комиссия по цифровизации.
Этот аспект также вызывает вопросы. Насколько независимыми будут эти лаборатории, если они создаются с подачи министерства? Смогут ли они обеспечить единообразие оценок и избежать коррупционных рисков? Эти вопросы пока остаются без ответа.
Стоит отметить, что ситуация с сообщениями в СМИ получила неожиданное развитие. После публикации «Коммерсанта» в пресс-службе «Яндекса» поспешили опровергнуть информацию о том, что компания официально представляла концепцию национального датасета. Там пояснили, что на рабочей встрече с Минцифры действительно обсуждались возможные подходы к проверке, но «Яндекс» выступал лишь как один из участников дискуссии, высказавших свою позицию, а не как инициатор готового плана.
Эту ремарку можно расценивать как попытку компании снизить градус публичного внимания и подчеркнуть, что окончательных решений пока не принято, а процесс находится в стадии активных обсуждений.
Разрабатываемая система тестирования — это не просто технический нюанс. Она определит контуры целой отрасли на годы вперед. Если тесты окажутся слишком жесткими или субъективными, российские разработчики столкнутся с колоссальными барьерами при выводе продуктов на рынок. Многие модели ИИ, особенно те, что обучались на зарубежных датасетах, могут быть признаны «недуховными» и фактически запрещены.
С другой стороны, успешное создание прозрачной и объективной системы оценки может стать конкурентным преимуществом. Россия получит уникальный инструмент контроля над технологиями, который позволит формировать «национальную школу» ИИ, ориентированную на внутренние культурные и идеологические запросы.
Пока же остается лишь гадать, какие конкретно вопросы войдут в тесты для нейросетей. Но очевидно одно: отныне искусственному интеллекту в России предстоит сдавать не только экзамен на интеллект, но и проверку на моральный облик.