Проневич Ольга Борисовна – кандидат технических наук, руководитель проектов отдела постановки задач, внедрения и сопровождения системных разработок отделения управления рисками сложных технических систем
Москва
Olga B. Pronevich, Candidate of Engineering, Project Manager, Unit for Problem Definition, Deployment and Support of System-Level Designs, Division for Risk Management of Complex Technical Systems
Moscow
Клокова Анна Павловна – аспирант, Российский университет транспорта РУТ (МИИТ); специалист отделения управления рисками сложных технических систем
Москва
Anna P. Klokova, Postgraduate Student, Russian University of Transport RUT (MIIT), Specialist, Division for Risk Management of Complex Technical Systems
Moscow
Цель. Преобразование признаков является одним из этапов применения методов машинного обучения, оказывающих существенное влияние на качество регрессионных моделей. Целью настоящей статьи является разработка критериев оценки качества снижения размерности данных на этапе преобразования признаков и адаптация метода UMAP к решению задачи прогнозирования количества дней до отказа на локомотивах ОАО «РЖД». Методы. Методы преобразования данных делятся на две группы: одни пытаются сохранить глобальную структуру данных, вторые – локальные расстояния между точками. В настоящей статье подробно рассмотрен нелинейный метод снижения размерности UMAP, низкоразмерное представление данных в котором основывается на преобразовании графа ближайших соседей с сохранением структуры данных. Изучение структуры многообразия исходных данных осуществляется с применением методов топологического анализа данных и методами построения нечетких симплицированных множеств.Результаты. Анализ теоретической базы UMAP, впервые проведенный на русском языке, позволил обоснованно выделить три основных параметра метода, варьирование которых оказывает существенное влияние на вид данных, полученных в результате преобразования. В частности – на качество разделения классов на двумерном пространстве. Также были определены характеристики входного набора параметров, влияющих на результаты UMAP. Продемонстрированы результаты практического применения метода UMAP. На промежуточных этапах: перечень ближайших соседей, взвешенный граф ближайших соседей. Основной результат: низкоразмерное представление данных (из исходных 44 измерений) на двумерном пространстве с разделением классов, что подтверждается как расчетами, так и визуально. Выводы. Определено, что UMAP является эффективным и обоснованным методом снижения размерности, позволяющим за счет варьирования параметров преобразовывать данные таким образом, чтобы повысить качество подаваемых на модели машинного обучения данных по критерию «очевидное разделение классов». Преобразование является промежуточным этапом для подготовки данных к применению регрессионных моделей, и разделение классов выполнено для исключения грубых ошибок регрессий.
Aim. Feature transformation is one of the stages of machine learning application that has a significant effect on the quality of regression models. The paper aims to develop criteria for evaluating the quality of data dimensionality reduction at the stage of feature transformation and adaptation of the UMAP method to the problem of prediction of the number of days to failure in the locomotives of JSC RZD. Methods. The data transformation methods are divided into two groups, those that attempt to preserve the global data structure, and those that attempt to preserve the distances between points. The paper examines in detail the UMAP no-linear method of dimensionality reduction, whose low-dimensional data presentation is based on a transformation of a nearest neighbour graph retaining the data structure. The structure of the initial data manifold is examined using topological data analysis and simplified fuzzy set construction methods. Results. The analysis of UMAP theory conducted in the Russian language for the first time enabled a substantiated identification of the three primary parameters of the method, whose variation significantly affects the type of data obtained as the result of a transformation. In particular, that pertains to the quality of class separation over a two-dimensional space. Additionally, the characteristics of the input set of parameters were identified that affect the UMAP results. Practical results of UMAP application weredemonstrated. Intermediate results included a list of nearest neighbours, a weighted graph of nearest neighbours. The fundamental result is a low-dimensional data representation (out of 44 initial measurements) over a two-dimensional space with class separation, which is confirmed both by calculations, and visually. Conclusions. It was identified that UMAP is an efficient and substantiated method of dimensionality reduction that allows – through parameter variation – transforming data in such a way as to improve the quality of data submitted to machine learning models by the criterion of “evident class separation”. The transformation is an intermediate stage of data preparation for regression model application, and class separation was performed for the purpose of eliminating the probability of gross regression errors.
The authors declare that there are no conflicts of interest present.