<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">sustain</journal-id><journal-title-group><journal-title xml:lang="ru">Надежность</journal-title><trans-title-group xml:lang="en"><trans-title>Dependability</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">1729-2646</issn><issn pub-type="epub">2500-3909</issn><publisher><publisher-name>RAMS Journal Limited liability company</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.21683/1729-2646-2022-22-2-38-46</article-id><article-id custom-type="elpub" pub-id-type="custom">sustain-472</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>ФУНКЦИОНАЛЬНАЯ БЕЗОПАСНОСТЬ. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ</subject></subj-group></article-categories><title-group><article-title>Об использовании методов Big Data в области обеспечения функциональной безопасности</article-title><trans-title-group xml:lang="en"><trans-title>Big Data-based methods for functional safety case preparation</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Розенберг</surname><given-names>Е. Н.</given-names></name><name name-style="western" xml:lang="en"><surname>Rozenberg</surname><given-names>E. N.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Розенберг Ефим Наумович – доктор технических наук, профессор, первый заместитель Генерального директора</p><p>ул. Нижегородская, д. 27, стр.1, Москва, 109029</p></bio><bio xml:lang="en"><p>Efim N. Rozenberg, Doctor of Engineering, Professor, First Deputy Director General</p><p>27, bldg 1 Nizhegorodskaya St., 109029, Moscow</p></bio><email xlink:type="simple">elena.baranova@list.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Ольшанский</surname><given-names>А. М.</given-names></name><name name-style="western" xml:lang="en"><surname>Olshansky</surname><given-names>A. M.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Ольшанский Алексей Михайлович – кандидат технических наук, руководитель Центра перспективных разработок НТК по РОД и ОПР</p><p>ул. Нижегородская, д. 27, стр.1, Москва, 109029</p></bio><bio xml:lang="en"><p>Alexey M. Olshansky, Candidate of Engineering, Head of Centre for Advanced Solutions, Integrated Research and Development Unit for Development of Traffic Management and General Design Solutions</p><p>27, bldg 1 Nizhegorodskaya St., building B, off. 512, Moscow, 109029</p></bio><email xlink:type="simple">a.olshansky@vniias.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Озеров</surname><given-names>А. В.</given-names></name><name name-style="western" xml:lang="en"><surname>Ozerov</surname><given-names>A. V.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Озеров Алексей Валерьевич – начальник Международного управления</p><p>ул. Нижегородская, д. 27, стр.1, Москва, 109029</p></bio><bio xml:lang="en"><p>Alexey V. Ozerov, Head of Foreign Department</p><p>27, bldg 1 Nizhegorodskaya St., 109029, Moscow</p></bio><email xlink:type="simple">a.ozerov@vniias.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Сафронов</surname><given-names>Р. А.</given-names></name><name name-style="western" xml:lang="en"><surname>Safronov</surname><given-names>R. A.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Сафронов Роман Александрович – заместитель руководителя НТК</p><p>ул. Нижегородская, д. 27, стр.1, Москва, 109029</p></bio><bio xml:lang="en"><p>Roman A. Safronov, Deputy Head of Integrated Research and Development Unit</p><p>27, bldg 1 Nizhegorodskaya St., 109029, Moscow</p></bio><email xlink:type="simple">r.safronov@vniias.ru</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>Акционерное общество «Научно-исследовательский и проектно-конструкторский институт информатизации, автоматизации и связи на железнодорожном транспорте» (АО «НИИАС»)</institution><country>Россия</country></aff><aff xml:lang="en"><institution>Joint Stock Company Research and Design Institute for Information Technology, Signalling and Telecommunications in Railway Transportation (JSC NIIAS)</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2022</year></pub-date><pub-date pub-type="epub"><day>11</day><month>06</month><year>2022</year></pub-date><volume>22</volume><issue>2</issue><fpage>38</fpage><lpage>46</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Розенберг Е.Н., Ольшанский А.М., Озеров А.В., Сафронов Р.А., 2022</copyright-statement><copyright-year>2022</copyright-year><copyright-holder xml:lang="ru">Розенберг Е.Н., Ольшанский А.М., Озеров А.В., Сафронов Р.А.</copyright-holder><copyright-holder xml:lang="en">Rozenberg E.N., Olshansky A.M., Ozerov A.V., Safronov R.A.</copyright-holder><license xml:lang="ru" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>Данная работа распространяется под лицензией Creative Commons Attribution 4.0.</license-p></license><license xml:lang="en" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://www.dependability.ru/jour/article/view/472">https://www.dependability.ru/jour/article/view/472</self-uri><abstract><sec><title>Цель</title><p>Цель. Целью статьи является обзор возможностей, подходов и приемов Big Data в области исследования и обеспечения функциональной безопасности транспортных систем, в том числе беспилотных систем. Отмечается, что современные технологии, приводящие к созданию транспортных систем нового поколения, эксплуатирующихся в изменчивых условиях и при значительном уровне пассажиронапряженности, требуют изменений в сложившихся схемах построения систем управления. В условиях роста агломераций многие пригородные системы сливаются с городскими, а интервалы движения в них приближаются по своей величине к интервалам движения в метрополитене. В этих условиях происходит переход от человеко-машинных систем к системам автоматическим, характеризующимся различной степенью автоматизации. Наблюдается масштабное внедрение цифровых средств связи, автоматизации технологических операций и дистанционного сбора данных и механизмов управления в сфере железнодорожных перевозок. Изменение поведения транспортных систем как подвида киберфизических систем приводит к смене парадигмы управления с линейно-функциональной к адаптивной с принципиально нелинейными системами с переменной структурой и переменными параметрами.</p></sec><sec><title>Методы</title><p>Методы. Традиционно для систем управления устойчивость оценивается по Ляпунову, в этом случае поведение устойчивой системы со 100% вероятностью можно представить в окрестности ε-трубки. Для рассматриваемых контролируемых систем, в которых устойчивость появляется за счет введения алгоритма-супервайзера, говорить о строгой устойчивости по Ляпунову некорректно. Идея контролируемых алгоритмов может распространяться не только на ИНС, но и на другие интеллектуальные алгоритмы. При этом выделяется область систем и знаний, не охваченная современными нормативными документами и методами доказательства безопасности. Выявление и исключение аномальных сигналов таких систем в этом случае позволят уточнить границы множества допустимых процессов, увеличив в ряде случаев быстродействие алгоритмов принятия решений за счет отключения целой ветви неблагоприятных сценариев.</p></sec><sec><title>Результаты</title><p>Результаты. Для нелинейных транспортных систем с переменной структурой и переменными параметрами рассмотрены примеры использования машинного обучения/больших данных (ML/Big Data) в анализе функциональной безопасности сложных систем управления на железнодорожном транспорте. Предложена конструкция применения контролируемых искусственных нейронных сетей во взаимодействии с принципами верификации кода (model checking). Особое внимание уделено искусственным нейронным сетями с элементами управления, которые рассматриваются в качестве нового подкласса нейронных сетей.</p></sec><sec><title>Заключение</title><p>Заключение. Сформированы современные требования к транспортным системам с применением искусственного интеллекта для адаптивного графика движения поездов и беспилотных систем управления. Это позволит в дальнейшем развивать целое направление исследований, связанное с функционированием сложных систем с контринтуитивным поведением – от оценки уровня функциональной безопасности систем с применением ИИ и машинного обучения до доказательства безопасности интеллектуальных контролируемых систем управления на основе методов формальной верификации.</p></sec></abstract><trans-abstract xml:lang="en"><sec><title>Aim</title><p>Aim. The paper aims to overview the opportunities, approaches and techniques of studying and ensuring functional safety of transportation systems, including those driverless, with the use of Big Data. It is noted, that the modern technology that underpins next-generation transportation systems that operate in ever-evolving conditions, with significant numbers of passengers, requires modified control systems design. With the growth of agglomerations, many suburban systems merge with urban ones, and their traffic intervals are close in size to those of the metro. Under these conditions, there is a transition from human-machine systems to automatic systems, characterized by varying degrees of automation. Widespread deployment of digital telecommunications, process automation and remote data collection and management technology is under way in railway transportation. Variations in the behaviour of transportation systems as a type of cyberphysical system cause a paradigm shift from line-andstaff to adaptive management with fundamentally non-linear systems with variable structure and parameters.</p></sec><sec><title>Methods</title><p>Methods. Control and management systems are conventionally assessed for Lyapunov’s stability. In this case, the behaviour of a stable system can with a 100% probability be predicted in the neighbourhood of the ε-tube. For the examined supervised systems, in which stability is ensured through the introduction of a supervisor algorithm, speaking of a strict Lyapunov’s stability would not be correct. The idea of controlled algorithms can extend not only to ANN, but also to other intelligent algorithms. Thus, a scope of systems and knowledge is identified that is not covered by the relevant regulatory documents and methods of safety case preparation. Identifying and eliminating abnormal signals of such systems would allow defining the boundaries of the set of acceptable processes more clearly, thus, in some cases, increasing the speed of the decision algorithms by disabling an entire branch of unfavourable scenarios.</p></sec><sec><title>Results</title><p>Results. For non-linear transportation systems with variable stricture and parameters, examples are considered of machine learning/Big Data application in analysing the functional safety of complex control/management systems in railway transportation. The paper proposes the concept of application of supervised artificial neural networks combined with model checking. A special attention is given to artificial neural networks with control elements that are considered as a new subclass of neural networks.</p></sec><sec><title>Conclusion</title><p>Conclusion. Updated requirements are defined for transportation systems using artificial intelligence as part of adaptive train schedule management and autonomous train control. That will ultimately allow developing an entire line of research associated with the operation of complex systems with counterintuitive behaviour from AI-based system functional safety estimation and machine learning to safety case preparation of intelligent supervised control/management systems based on formal verification.</p></sec></trans-abstract><kwd-group xml:lang="ru"><kwd>функциональная безопасность</kwd><kwd>доказательство безопасности</kwd><kwd>вери- фикация кода</kwd><kwd>контролируемые искусственные нейронные сети (К-ИНС)</kwd><kwd>машинное об- учение</kwd><kwd>большие данные</kwd><kwd>беспилотные системы управления</kwd><kwd>график движения поездов (ГДП)</kwd><kwd>марковские цепи</kwd></kwd-group><kwd-group xml:lang="en"><kwd>functional safety</kwd><kwd>safety case</kwd><kwd>code verification</kwd><kwd>supervised artificial neural networks (SANN)</kwd><kwd>machine learning</kwd><kwd>Big Data</kwd><kwd>driverless control systems</kwd><kwd>train schedule</kwd><kwd>Markov chains</kwd></kwd-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Грунтов П.С. Централизованные системы автоматизированного управления железными дорогами в условиях рыночных отношений. Минск: БелГУТ, 2001.</mixed-citation><mixed-citation xml:lang="en">Gruntov P.S. [Centralized systems for automated railway management in market economy conditions]. Minsk: BelGUT; 2001. (in Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Осьминин А.Т. Проблемы и пути их научного решения в вопросах эксплуатации железных дорог // Бюллетень Объединенного ученого совета ОАО РЖД. 2015. № 4. С. 41-54.</mixed-citation><mixed-citation xml:lang="en">Osminin A.T. Problems and ways of their scientiﬁc solving on the issues of railroading. Bulletin of JSC RZD United Academic Council 2015;4:41-54. (in Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Федунин А.В. Доказательство безопасности компьютерных систем // ММС. 2016. №3.</mixed-citation><mixed-citation xml:lang="en">Fedukhin A.V. Mukha Ar.A., Sespedes Garsiya N.V. [Safety case of a computer system]. MMS 2016;3:93-101. (in Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Neema H. Simulation testbed for railway infrastructure security and resilience evaluation. HotSoS ‘20: In Proceedings of the 7th Symposium on Hot Topics in the Science of Security. Association for Computing Machinery, 1, 1–8 (2020).</mixed-citation><mixed-citation xml:lang="en">Neema H. Simulation testbed for railway infrastructure safety and resilience evaluation. In: Proceedings of the 7th Symposium on Hot Topics in the Science of Security. Association for Computing Machinery; 2020. P 1–8.</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Hadj-Mabrouk H. Contribution of Artiﬁcial Intelligence to Risk Assessment of Railway Accidents // Urban Rail Transit. 2019. No. 5. Pp. 104–122.</mixed-citation><mixed-citation xml:lang="en">Hadj-Mabrouk H. Contribution of Artiﬁcial Intelligence to Risk Assessment of Railway Accidents. Urban Rail Transit 2019;5:104–122.</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Шубинский И.Б., Шебе Х., Розенберг Е.Н. О функциональной безопасности сложной технической системы управления с цифровыми двойниками // Надежность. 2021. Т. 21. № 1. С. 38-44.</mixed-citation><mixed-citation xml:lang="en">Shubinsky I.B., Schäbe H., Rozenberg E.N. On the functional safety of a complex technical control system with digital twins. Dependability 2021;21(1):38-44.</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Jin Zhang, Jingyue Li. Testing and veriﬁcation of neural-network-based safety-critical control software: A systematic literature review // Information and Software Technology. 2020. Volume 123.</mixed-citation><mixed-citation xml:lang="en">Zhang J., Li J. Testing and veriﬁcation of neural-network-based safety-critical control software: A systematic literature review. Information and Software Technology 2020;123.</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Шубинский И.Б., Шебе Х., Розенберг Е.Н. К оценке безопасности системы автоведения поездов // Надежность. 2021. Т. 21. № 4. С. 31-37.</mixed-citation><mixed-citation xml:lang="en">Shubinsky I.B., Shäbe H., Rozenberg E.N. On the safety assessment of an automatic train operation system. Dependability 2021;21(4):31-37.</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Озеров А.В., Лысиков М.Г., Ольшанский А.М. График движения поездов в составе адаптивной системы управления будущего // Наука и технологии железных дорог. 2021. Т. 5. № 1. С. 50-64.</mixed-citation><mixed-citation xml:lang="en">Ozerov A.V., Lysikov M.G., Olshansky A.M. Timetable as part of next-generation adaptive management system. Nauka i tekhnologii zheleznykh dorog 2021;5(1):50-64.</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Озеров А.В., Ольшанский А.М. Подходы к оценке функциональной безопасности автоматической системы управления поездом без машиниста // Сборник научных трудов Международной научно-технической конференции «Перспективные информационные технологии». Самара. 2021. С. 504-509.</mixed-citation><mixed-citation xml:lang="en">Ozerov A.V., Olshansky A.M. [Approaches to the assessment of the functional safety of a driverless automatic train control system]. In: International Scientiﬁc Conference Proceedings “Advanced Information Technologies and Scientiﬁc Computing”. Samara; 2021. P. 504-509. (in Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Гапанович В.А., Шубинский И.Б., Замышляев А.М. Математическое и информационное обеспечение системы УРРАН // Надежность. 2013. № 1. С. 3-19.</mixed-citation><mixed-citation xml:lang="en">Gapanovich V.A., Shubinsky I.B., Zamyshlyaev A.M. Mathematical and information support of the URRAN system. Dependability 2013;1:12-19.</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Озеров А.В., Ольшанский А.М. О построении модели безопасности сложной автоматической системы транспортного обслуживания // Надежность. 2021. Т. 21. № 2. С. 31-37.</mixed-citation><mixed-citation xml:lang="en">Ozerov A.V., Olshansky A.M. Safety model construction for a complex automatic transportation system. Dependability 2021;21(2):31-37.</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Дорф Р., Бишоп Р. Современные системы управления. М.: Лаб. Базовых Знаний, 2004. 832 с.</mixed-citation><mixed-citation xml:lang="en">Dorf R., Bishop R. Modern control systems. Moscow: Lab. Bazovykh Znaniy; 2004.</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Розенберг Е.Н. и др. Гибридное нейросетевое управление транспортными системами // Автоматика, связь, информатика. 2017. № 12. С. 2-5.</mixed-citation><mixed-citation xml:lang="en">Rozenberg E.N. et al. [Hybrid neural network-based management of transportation systems]. Automation, Communications, Informatics 2017;12:2-5. (in Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Игнатенков А.В., Ольшанский А.М. Управление величиной ошибки в нейронных сетях // Известия Самарского научного центра Российской академии наук. 2016. Т. 18. № 4-4.</mixed-citation><mixed-citation xml:lang="en">Ignatenkov A.V., Olshansky A.M. About neural network error control an optimal control problem. Izvestiya Samarskogo nauchnogo centra Rossiyskoy akademii nauk 2016;18(4-4):733-738. (in Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit16"><label>16</label><citation-alternatives><mixed-citation xml:lang="ru">Clarke E.M., Henzinger T.A., Veith H. et al. Handbook of model checking (Vol. 10). Cham: Springer, 2018.</mixed-citation><mixed-citation xml:lang="en">Clarke E.M., Henzinger T.A., Veith H. et al. Handbook of model checking (Vol. 10). Cham: Springer; 2018.</mixed-citation></citation-alternatives></ref><ref id="cit17"><label>17</label><citation-alternatives><mixed-citation xml:lang="ru">Охотников А.Л., Попов П.А. Беспилотное управление локомотивом: вчера, сегодня и завтра // Автоматика, связь, информатика. 2019. № 8. С. 12-17.</mixed-citation><mixed-citation xml:lang="en">Okhotnikov A.L., Popov P.A. Self-driving: yesterday, today and tomorrow. Automation, Communications, Informatics 2019;8:12-17. (in Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit18"><label>18</label><citation-alternatives><mixed-citation xml:lang="ru">Flammini F. et al. A Vision of Intelligent Train Control // (preprint 2022): in Proceedings of the 4th International Conference on Reliability, Safety and Security of Railway Systems (RSSRail-22). Springer LNCS, 2022. (в печати).</mixed-citation><mixed-citation xml:lang="en">Flammini F. et al. A Vision of Intelligent Train Control. In: Proceedings of the 4th International Conference on Reliability, Safety and Security of Railway Systems (RSSRail-22). Springer LNCS; 2022. (preprint)</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
