Ростехнадзор ограничит применение ИИ для управления системами безопасности атомных объектов

42 минуты назад

© Сгенерировано ИИ

Ведомство опубликовало заявление о политике безопасного применения искусственного интеллекта на объектах использования атомной энергии. Документ определил подходы к использованию ИИ при проектировании, эксплуатации и обеспечении физической защиты атомных объектов. Среди ключевых принципов — сохранение контроля со стороны человека, проверяемость алгоритмов, защита от кибератак и ограничение доступа ИИ к управлению системами, важными для безопасности, сообщает Risknews.

ИИ не должен самостоятельно управлять критически важными системами АЭС

Ростехнадзор рассматривает искусственный интеллект прежде всего как инструмент поддержки принятия решений. Окончательное решение должно оставаться за квалифицированным специалистом, который может контролировать работу алгоритма, вмешиваться в неё и корректировать результаты.

При этом ведомство не исключает постепенного повышения автономности ИИ по мере накопления опыта эксплуатации, развития доказательной базы и разработки критериев безопасности.

Для управляющих систем, важных для безопасности атомных станций (УСВБ), планируется установить ограничения на применение моделей ИИ при выполнении управляющих функций категорий А, В и С, а также информационных функций категорий А и В.

Применение ИИ для информационных функций категории С и функций, не относящихся к категориям А, В или С, предполагается допустить при условии, что соответствующие системы не смогут передавать управляющие воздействия на элементы, важные для безопасности.

Для других объектов использования атомной энергии предусмотрен аналогичный подход: ИИ не должен самостоятельно управлять объектом в целом или его системами, важными для безопасности.

Для систем физической защиты введут отдельные ограничения

Особое внимание в документе уделено использованию ИИ в системах физической защиты атомных объектов.

Ростехнадзор планирует установить следующие условия:

Однонаправленная передача данных. Информация от систем, важных для безопасности, должна передаваться к программно-аппаратным средствам физической защиты с ИИ без возможности обратного управляющего воздействия.

• Локальная обработка данных. Все вычисления, включая обработку информации, должны выполняться внутри охраняемого периметра объекта.
• Сетевая изоляция. Подключение таких решений к общим сегментам сети объекта, внешним информационным сетям, интернету и публичным облачным сервисам предполагается ограничить.
• Контроль человека. ИИ должен использоваться исключительно для поддержки решений сотрудников физической защиты без возможности самостоятельного управления её элементами.
• Защита от атак. Алгоритмы должны быть устойчивы к несанкционированным воздействиям, включая искажение и фальсификацию входных данных.
• Резервирование ресурсов. Системы физической защиты должны иметь аппаратный резерв вычислительной мощности на случай перегрузки ИИ ложными срабатываниями или избыточными данными.

Эти положения имеют непосредственное значение для разработчиков интеллектуальных систем видеонаблюдения, видеоаналитики, контроля доступа и комплексных решений физической защиты, ориентированных на атомную отрасль.

В частности, при проектировании таких решений потребуется учитывать не только точность распознавания событий и скорость обработки информации, но и архитектуру информационного обмена, изоляцию сетей, устойчивость к атакам и невозможность несанкционированного управляющего воздействия.

Модели ИИ нуждаются в защите от вмешательства

Ростехнадзор сформулировал 6 критериев для моделей искусственного интеллекта, применяемых при обосновании безопасности атомных объектов.

К ним относятся объяснимость решений, верификация и валидация моделей, защищённость от несанкционированных воздействий, детерминированность результатов, контролируемость со стороны человека и управление изменениями.

Отдельно рассматриваются специфические угрозы для ИИ: состязательные атаки, «отравление» обучающих данных и восстановление сведений о модели или обучающих наборах данных.

Регулятор также предлагает ограничить самостоятельное обучение ИИ в процессе эксплуатации. Для систем, важных для безопасности, предполагается использовать модели, обучение которых завершено до начала эксплуатации, а параметры и структура зафиксированы.

Адаптация моделей допускается только в заранее определённых пределах, с использованием проверенных алгоритмов и программно-аппаратных ограничений.

ИИ-программы подлежат экспертизе

Согласно заявлению Ростехнадзора, программы с технологиями ИИ, применяемые при проектировании для обоснования безопасности ОИАЭ, включая моделирование процессов, влияющих на безопасность, допускаются к применению только после экспертизы в организации научно-технической поддержки Ростехнадзора (ОНТП).

До изменения нормативных документов такая экспертиза должна проводиться по установленным правилам с учётом границ применимости модели и результатов её верификации и валидации.

При этом для вспомогательных инструментов, не предназначенных для обоснования безопасности, например систем автоматизации проектирования, графических работ и документооборота, прохождение такой экспертизы не является обязательным.

Приоритет получат российские ИИ-решения

Ведомство отдельно обозначило подход к использованию зарубежных технологий. В заявлении отмечается, что Федеральный закон от 26 июля 2026 года № 243-ФЗ не устанавливает общего запрета на применение иностранных программ с ИИ. Их использование на атомных объектах возможно при полном соответствии критериям безопасности, отсутствии недекларированных возможностей и успешном прохождении предусмотренных процедур оценки соответствия. Вместе с тем Ростехнадзор намерен ориентировать поднадзорные организации на преимущественное использование российских ИИ-решений.

Кроме того, надзорное ведомство подготовит новые нормативные требования. В частности, планируется развивать регулирование по двум основным направлениям: закрепление критериев безопасного применения моделей ИИ в федеральных нормах и правилах и совершенствование процедур экспертизы программ для ЭВМ.

Отдельное направление — подготовка специалистов надзорных организаций. Ростехнадзор и организации научно-технической поддержки будут развивать компетенции сотрудников по оценке возможностей и ограничений ИИ, интерпретации результатов его работы и выявлению ошибок.

При этом использование искусственного интеллекта непосредственно в контрольно-надзорной деятельности будет ограничено вспомогательными задачами: поиском информации, систематизацией данных и техническим оформлением документов. Регулирующие решения и утверждение результатов экспертиз должны оставаться исключительной прерогативой уполномоченных специалистов.

Таким образом, опубликованная политика формирует основу для дальнейшей разработки требований к ИИ в атомной отрасли, не предусматривая его полного запрета, но сохраняя приоритет ядерной, радиационной и физической безопасности.

Нужно отметить, что опубликованное Ростехнадзором заявление о политике безопасного применения ИИ на объектах использования атомной энергии носит декларативный характер и само по себе не вводит новых обязательных требований для эксплуатирующих организаций, разработчиков и поставщиков систем безопасности.

Вместе с тем документ определяет подходы, которые ведомство намерено закрепить в федеральных нормах и правилах, а также в процедурах экспертизы программного обеспечения. После принятия соответствующих нормативных правовых актов новые требования могут стать обязательными для участников атомной отрасли.

Ростехнадзор последовательно пересматривает требования к безопасности атомной отрасли. В частности, RUБЕЖ ранее сообщал о разработке нормативной базы для новых и перспективных объектов атомной энергетики. По информации руководителя Ростехнадзора Александра Трембицкого, в сфере промышленной, технологической и атомной безопасности были приняты 22 постановления Правительства, также Минюстом зарегистрировано более 80 ведомственных нормативных актов.