Петр Хвесюк: «Граница автоматизации — нормы, сохраняющие участие человека»

6 часов назад

Бытует мнение, что человека оставляют в контуре автоматизации потому, что без него нельзя. Но нередко процесс просто по привычке проектируют так, чтобы финальное решение обязательно принимал оператор, хотя технически систему уже можно сделать полностью автономной. Петр Хвесюк рассказал IT-World, где на самом деле проходит граница автоматизации на производстве, почему ее часто задают не технологии, а обязательные нормы и зачем гибридной системе сохранять исходные данные, логировать нестандартные случаи и оставаться проверяемой для человека.

— Насколько широко гибридные системы контроля уже применяются в России?

Петр Хвесюк: У нас почти все производства сейчас автоматизированы с участием человека. На многих предприятиях человек остается точкой принятия финального решения. Например, один оператор сидит в ситуационном центре, куда поступает информация из разных источников, в том числе от систем видеоаналитики. Система сама выполняет предварительные расчеты и анализ, но решение принимает человек. Такие гибридные системы сейчас очень распространены.

Особенно много подобных задач в промышленности. Как правило, на предприятии уже есть действующая линия, оборудование, системы управления, сложившиеся процессы, и новые инструменты контроля встраиваются в этот контур постепенно. В то же время, есть системы, которые уже вообще не нуждаются в человеке: его функцию полностью берет на себя автоматика. И здесь возникает другая проблема — многие по старинке проектируют системы, требующие участия человека там, где он уже в принципе не нужен.

— Как понять, когда человека можно исключить из процесса, а когда этого лучше не делать?

П. Хвесюк: Везде, где мы видим возможность убрать человека из цикла, мы это предлагаем. Но иногда сделать это невозможно из-за законодательных или других обязательных требований.

Например, при строительстве атомных электростанций используются системы контроля качества. Делается рентгеновский снимок сварного шва. Система может проанализировать его, найти потенциальные дефекты и обратить на них внимание специалиста. Но ответственный специалист все равно должен посмотреть снимок и своей подписью подтвердить результат проверки. Затем этот документ хранится вместе с эксплуатационной документацией атомной электростанции 50 или даже 100 лет. То есть одна из границ автоматизации — законодательные, административные и другие обязательные нормы, которые не позволяют полностью исключить человека из процесса. Если таких ограничений нет, дальше компания смотрит на экономику.

Например, если система может заменить трех человек в смену, мы считаем экономию на их работе и сопоставляем ее со стоимостью разработки и эксплуатации системы. Но кроме ФОТ есть и другие показатели. Автоматизация позволяет быстрее выполнять рутинные операции — в одном из наших проектов за счет этого удалось снизить затраты на процесс на 70%. На производстве система может проверять весь поток там, где человек физически успевает контролировать только часть продукции. Тогда мы дополнительно считаем снижение потерь от пропущенного брака, рекламаций и возвратов. В итоге экономика проекта складывается из разных факторов в зависимости от задач.  

— А насколько часто человека оставляют в процессе просто по привычке?

П. Хвесюк: Такое бывает. У нас был показательный пример на производственной линии. Оператор должен был следить, когда в определенной зоне окажутся три курицы, и в этот момент нажать кнопку взвешивания. Если нажать раньше, когда проехали только две, результат записывался некорректно. Заказчик предполагал, что человек будет продолжать нажимать кнопку, а система компьютерного зрения — контролировать, вовремя ли он это сделал. Но здесь сама постановка задачи неправильная: зачем вообще нужен человек? Нейронная сеть может определить, когда в зоне взвешивания находятся три курицы, отправить сигнал на контроллер и снять показания весов. Причем делать это 24/7, с высокой точностью и повторяемостью, каждый раз в один и тот же нужный момент. Это как раз пример того, что многие продолжают проектировать системы с участием человека там, где технически он уже не нужен.

— Если человек остается в контуре, что становится главным требованием к такой системе?

П. Хвесюк: Главное — чтобы специалист мог при необходимости проверить достоверность полученной информации. Если речь идет о визуальном контроле, нужно фиксировать исходные фотографии объектов. Например, общий вид или отдельный участок. Если система обнаружила дефект, человек должен иметь возможность вернуться к исходному изображению и проверить, действительно ли он был. Другими словами, должна обеспечиваться прослеживаемость. Если гибридная система помогает человеку принимать решения, должно быть понятно, на основании чего она сделала тот или иной вывод.

Проверять саму систему периодически — просто необходимо. Например, для этого можно использовать контрольные образцы, которые помещаются на производственную линию. Мы заранее знаем, какие дефекты на них есть, и можем убедиться, что система по-прежнему их обнаруживает, все элементы корректно взаимодействуют и результатам можно доверять.

— Почему систему недостаточно один раз хорошо обучить и дальше просто эксплуатировать?

П. Хвесюк: Потому что данные со временем меняются. Допустим, мы обучили систему машинного зрения, и ее точность составляет 95%. Затем на производстве что-то меняется: предприятие меняет поставщика сырья, освещение или камеру, загрязняется оптика, появляются блики. Для модели входные данные уже выглядят иначе. Это называется дрейфом данных, и он может влиять на качество работы системы. По этой причине ее нужно периодически проверять: использовать контрольные образцы, смотреть, где ее результаты расходятся с оценкой специалиста. Если появляются новые случаи, добавлять их в выборку и переобучать модель. То же самое касается и систем, работающих с текстом и контекстом. Например, обновилось законодательство, а система не совсем правильно учитывает изменения и начинает давать сбои. Если предусмотрена обратная связь от человека, такие ситуации можно выявлять и использовать для дальнейшей настройки. Одним словом, человек в гибридной системе не только принимает решения, но и создает данные для ее дальнейшего обучения.

— А что делать с ситуациями, которых вообще не было в исходной выборке?

П. Хвесюк: Все значимые действия и результаты нужно записывать и архивировать. В процессе эксплуатации появляются различные корнер-кейсы, которых не было в исходной выборке и которые невозможно было предусмотреть при разработке. В момент запуска система может работать практически идеально, но через год, два, три или пять лет обязательно появятся нюансы, которые изначально не были учтены. Система должна помечать такие случаи, логировать их и сохранять данные. Тогда к ним можно вернуться, разобраться в причинах и понять, что нужно изменить: дополнить выборку, переобучить модель или доработать функциональность. Так мы обычно повышаем качество системы уже в процессе эксплуатации.

— Есть ли у гибридных систем недостатки по сравнению с полной автоматизацией?

П. Хвесюк: Да. Первый очевидный минус в том, что человек остается частью процесса. Он может отвлечься, устать, неправильно понять информацию, что-то пропустить или не увидеть. При грамотно организованном процессе эти риски управляемы, но они существуют. Кроме того, гибридная система иногда может быть даже дороже полностью автоматизированной. Взаимодействовать напрямую с сигналами промышленного оборудования зачастую проще, чем дополнительно воспроизводить в интерфейсе всю необходимую человеку информацию в том формате, к которому он привык. То есть нужно проектировать не только саму автоматизацию, но и взаимодействие с оператором: что ему показывать, когда, в каком виде и какие возможности вмешательства ему давать. По трудозатратам это может быть сложнее, чем прямое взаимодействие системы с линией.

— Как тогда правильно распределять полномочия между системой и оператором?

П. Хвесюк: Постепенно. Неправильно завтра объявить, что появилась суперумная система и человек больше нигде не нужен. Правильнее передавать автоматизированной системе отдельные участки работы и по мере эксплуатации увеличивать ее полномочия. Сначала система может работать в теневом режиме: принимать решения параллельно с оператором, но не влиять на процесс. Затем она работает как советчик: предлагает действие, а решение остается за человеком. Следующий этап — система действует сама, но оператор сохраняет возможность вмешаться.

Причем даже одну и ту же функцию можно организовать по-разному. Допустим, система обнаружила ситуацию, при которой нужно остановить производственную линию. Она может сразу сделать это самостоятельно.

Другой вариант — сначала сообщить оператору, что линия сейчас будет остановлена, и дать ему возможность вмешаться, например заблокировать остановку. Это тоже гибридная система. По мере внедрения степень участия человека можно менять. Переходить к следующему этапу можно, когда система стабильно показывает нужную точность и не допускает критических ошибок. Где именно провести границу, определяется процессами и требованиями конкретного производства.

— Какие технологии будут влиять на развитие таких систем в ближайшее время?

П. Хвесюк: Один из заметных трендов — развитие low-code- и no-code-платформ. Сейчас возможности нейронных сетей позволяют человеку описывать необходимую логику практически на естественном языке, а внутри будет создаваться обычный код. Нужно понимать и ограничение самой нейронной сети. Она выбирает наиболее вероятный способ достижения результата на основании имеющихся данных. Она не выстраивает последовательность действий потому, что логически доказала, что только эта последовательность правильная. Поэтому там, где функциональность должна работать как часы, нейронные сети нужно дополнять четкой алгоритмической логикой. Например, при работе с финансовыми документами нельзя просто доверить нейросети расчет суммы по заданным параметрам: она может ошибиться, что-то пропустить или неправильно выполнить вычисление.

Такие задачи можно решать иначе: пользователь описывает операцию на естественном языке, на ее основе создается код, который затем проверяется и запускается, например как MCP-сервер, к которому нейросеть обращается для выполнения конкретной операции. В результате тот же дебет и кредит считает уже однозначная алгоритмическая логика.

— Как, на ваш взгляд, будут развиваться гибридные системы контроля в России в ближайшие годы?

П. Хвесюк: Думаю, будет постепенно меняться степень участия человека. Там, где сегодня оператор подтверждает большую часть действий системы, со временем часть полномочий можно будет передавать автоматике. Уже сейчас одну и ту же функцию можно спроектировать так, чтобы система только предупреждала человека, либо так, чтобы она действовала самостоятельно. Но полностью человек исчезнет не из всех процессов. Где-то его участие будет обязательным из-за законодательных или административных требований. Где-то компании сами предпочтут сохранить дополнительный уровень контроля.

Одновременно будет возрастать значение данных, которые накапливаются в процессе эксплуатации. Через несколько лет обязательно появятся новые ситуации, которых не было в первоначальной выборке, поэтому система должна позволять вернуться к конкретному случаю, понять причину результата и при необходимости переобучить модель. На мой взгляд, развитие будет идти не к одномоментному переходу к полной автономности, а к постепенному изменению границы между человеком и системой. Чем надежнее работает автоматизация и чем больше данных накоплено, тем больше функций ей можно передавать.

Читайте также: Елена Балашова: «Как внедрять ИИ в промышленную инфраструктуру без риска для непрерывности производства»