Алексей Валерьевич Озеров – начальник Международного управления
Москва
Alexey V. Ozerov, Head of Department
Moscow
Алексей Михайлович Ольшанский – кандидат технических наук, руководитель Центра перспективных разработок
Москва
Alexey M. Olshansky, Head of Centre
Moscow
Цель статьи – рассмотреть подходы к анализу модели безопасности сложных многоконтурных систем транспортного обслуживания, состоящих из не полностью контролируемых подсистем.
Методы. Для описания модели безопасности используются методы системно-теоретического анализа процессов STPA и принципы, изложенные в стандарте ISO/PAS 21448:2019 (SOTIF).
Результаты. В статье показаны недостатки методик локального анализа рисков FTA и FMEA и продемонстрирована необходимость более универсального подхода на основе сочетания методологии системного анализа и теории управления. Проиллюстрированы основные этапы такого анализа модели безопасности сложных систем транспортного обслуживания на примере Московского центрального кольца, обеспечивающие обратную связь для оценки безопасности планируемой структуры системы управления. Рассмотрен вариант схемы управления с виртуальной моделью в виде так называемой «контролируемой искусственной нейронной сети».
Выводы. В настоящее время активно тестируются системы беспилотного управления (без машиниста) на железнодорожном транспорте, которые имеют в своем составе модули автоматического обнаружения препятствий, использующие методы машинного обучения. Введение последних в контур управления крайне усложняет задачу анализа рисков и угроз и оценку безопасности таких систем с помощью традиционных методов построения деревьев ошибок и анализа отказов и их последствий FTA и FMEA. При построении модели безопасности столь сложных многоконтурных систем транспортного обслуживания, состоящих из не полностью контролируемых подсистем, в которых используются методы машинного обучения с не до конца предсказуемым поведением, требуется применение системного подхода для анализа небезопасных сценариев с формированием библиотеки сценариев и формализацией описания модели угроз, в том числе на границах различных контуров управления, в целях сокращения области неизвестных небезопасных сценариев для проектируемых систем беспилотного транспортного обслуживания.
The Aim of the paper is to consider approaches to the analysis of a safety model of complex multi-loop transportation systems comprising not completely supervised subsystems.
Method. For the description of a safety model, the paper uses systems theoretic process analysis (STPA) methods and the principles specified in ISO/PAS 21448:2019 (SOTIF).
Result. The paper shows drawbacks of the FTA and FMEA local risk analysis methods and demonstrates a demand for some universal approach based on the combination of STPA and control theory. It gives an overview of the major stages of such analysis for the safety model of complex transportation systems exemplified by the Moscow Central Circle, which provide a feedback for safety evaluation of a transport control system under development. The paper analyzes the feasibility of using a virtual model for control purposes in the form of a so-called “supervised artificial neural network”.
Conclusion. Today, railways are actively testing autonomous systems (with no driver onboard) that apply as their subsystems automatic perception modules using machine learning. The introduction of the latter into the control loop complicates the task of hazard analysis and safety evaluation of such systems using conventional FTA and FMEA methods. The construction of a safety model of such complex multi-loop transportation systems comprising not completely supervised subsystems that use machine learning methods with not completely predictable behavior requires the application of a systems approach to the analysis of unsafe scenarios along with the compilation of a scenario library and the formalization of a hazard model’s description, pertaining to the boundaries of various control loops as well, in order to reduce the regions of unknown unsafe scenarios for autonomous transportation systems under development.
The authors declare that there are no conflicts of interest present.