Кибербезопасность и ИИ в энергетике: почему «черные ящики» нейросетей недопустимы, а роевой интеллект - единственный путь к соответствию ФСТЭК

Если вы спросите главного энергетика крупного завода или руководителя службы информационной безопасности, что вызывает у него наибольший ужас, он не станет говорить о хакерах в капюшонах или вирусах-шифровальщиках. Его главный страх - это потеря контроля над физическим процессом. Он боится ситуации, когда машина принимает решение, которое он не может ни предсказать, ни объяснить, ни отменить.

Именно поэтому словосочетание «искусственный интеллект в энергетике» вызывает у профильных специалистов не восторг, а глубокое отторжение. И они абсолютно правы в логике энергетики - самой консервативной отрасли экономики. Но их ошибка заключается в том, что они ставят в один ряд две совершенно разные технологии: обучаемые нейросети и детерминированные экспертные системы - или как его еще называют, искусственный интеллект (ИИ) экспертного типа. Разница между ними - это разница между галлюцинирующим чат-ботом и строгим журналом действий дежурного диспетчера.

Современные нейросетевые модели, которые активно завоевывают мировые рынки, работают на основе вероятностей. Они обучаются на огромных массивах исторических данных и пытаются найти скрытые паттерны. В сфере генерации картинок или написания текстов это дает поразительные результаты. В сфере управления высоковольтной подстанцией или турбиной это дает катастрофу.

Нейросеть не понимает физики процесса. Она не знает, что такое короткое замыкание или обрыв фазы. Она просто видит набор цифр. В нестандартной ситуации, которую она не видела в своих обучающих выборках, нейросеть может «галлюцинировать». Она может выдать команду на отключение критического контура охлаждения, потому что алгоритм решил, что это оптимальный способ снижения температуры. Логика этого решения будет скрыта в миллионах весовых коэффициентов. Инженер не сможет открыть код и понять, почему машина так поступила.

В энергетике, где цена ошибки измеряется человеческими жизнями и миллиардными убытками, «черный ящик» недопустим. Регуляторы, включая ФСТЭК, обоснованно блокируют внедрение таких систем на объектах критической информационной инфраструктуры.

Решение, которое предлагает архитектура платформы «ТЭСС/ЛА», это возвращение к истокам инженерной мысли, но на новом технологическом уровне. Здесь используется экспертный интеллект, который базируется не на вероятностях, а на жестких продукционных правилах.

Представьте себе толстый журнал инструкций и регламентов, который лежит на столе у опытного диспетчера. Если происходит авария, диспетчер не «угадывает» решение. Он открывает регламент, находит соответствующую ситуацию и выполняет прописанный алгоритм. ИИ экспертного типа - это и есть такой журнал, только оцифрованный и работающий со скоростью света.

База знаний представлена в виде прозрачных файлов-команд. Каждое правило имеет структуру «ЕСЛИ условие, ТО действие». Например, так: «ЕСЛИ напряжение на шине падает ниже критической уставки И ток превышает номинал более чем на двадцать процентов, ТО рекомендовать отключение фидера И запустить резервный агрегат».

Когда система сталкивается с аварийной ситуацией, она не придумывает новый способ спасения. Она мгновенно сканирует базу фактов, находит подходящее правило и формирует рекомендацию. И самое главное: каждое свое действие система оставляет в «логе» с полным обоснованием. Инженер может в любой момент открыть файл правил, посмотреть на алгоритм и сказать: «Да, машина поступила верно, потому что сработало правило номер сорок пять». Это и есть объяснимый, предсказуемый и безопасный интеллект.

Но даже самый совершенный ИИ не должен иметь прямого доступа к исполнительным механизмам. В архитектуре платформы «ТЭСС/ЛА» реализован принцип двойного контура, который можно назвать «железным занавесом».

ИИ экспертного типа работает на центральном процессоре. Он анализирует режимы, выявляет предаварийные ситуации и формирует рекомендации. Но эти рекомендации не идут напрямую на реле и выключатели. Они попадают в модуль «арбитр».

«Арбитр» - так называется аппаратный контур, реализованный на базе программируемой логической интегральной схемы. Он работает на уровне микросекунд и руководствуется не правилами, а законами физики и жесткими технологическими блокировками. Если ИИ по какой-то причине, даже из-за сбоя в программном обеспечении, выдаст команду, которая противоречит базовым ограничениям безопасности, «Арбитр» просто не пропустит ее к исполнительным механизмам.

Это означает, что даже в случае практически невероятного «схождения с ума» программного мозга, физическая защита объекта остается незыблемой. «Арбитр» гарантирует, что ни одна опасная команда не будет исполнена.

Узнать больше о физическом разделении контуров «мозгов» (x86) и «мускулов» (FPGA) в контроллере – «АПК ТЭСС|ЛА» (ссылка на страницу продукта)»

Еще один критический аспект кибербезопасности - это архитектура сети. Классические системы АСУ ТП построены по иерархическому принципу. Все данные стекаются на центральный сервер SCADA. Если хакер находит уязвимость в шлюзе и получает доступ к этому серверу, он получает ключи от всего завода. Он может отключить все выключатели одной командой.

Децентрализованная архитектура интеллектуальной локальной энергосистемы лишена этого недостатка принципиально. У нее нет «головы», которую можно отрубить. Каждый узел сети обладает собственным интеллектом и принимает решения на основе локальных измерений и глобального времени.

Между узлами нет постоянных широковещательных потоков команд, которые можно перехватить и подменить. Агенты синхронизируются по спутниковым сигналам и действуют автономно. Чтобы вывести такую систему из строя, злоумышленнику придется одновременно физически уничтожить или скомпрометировать десятки независимых узлов, разбросанных по всей инфраструктуре предприятия. Это задача из разряда невыполнимых.

В мире, где физические и кибератаки на энергосистемы становятся рутиной, выживает в энергетике не тот, кто строит самые толстые стены вокруг центрального сервера, а тот, кто отказывается от центрального сервера вообще. Предсказуемость, детерминизм и физическая изоляция контуров - это не просто технические термины. Это единственный фундамент, на котором может строиться настоящий технологический суверенитет и безопасность критической инфраструктуры энергетических объектов.

 Наши инженеры готовы провести предварительный аудит вашей архитектуры и продемонстрировать, как принципы децентрализации и роевого интеллекта экспертного типа могут защитить ваш объект без компромиссов с надежностью.