Технологии интеллектуального анализа данных : учебное пособие

118 Задача заключается в отыскании таких коэффициентов  , чтобы удовлетворить условию (3.1). Например, при решении зада- чи регрессии используют квадратичную функцию потерь (3.2) и множество линейных функций F : 1 | ( ) ( ), n i i i i F f f x f x              , где  X f i : . Необходимо найти решение следующей задачи:   2 1 1 1 min ( ) min n m m i i i j f F i j R f y f x m                  . Вычисляя производную R ( f ) по  и вводя обозначение Y ij =   i j f x , получаем, что минимум достижим при условии: Y T y = Y T Y  . Решением этого выражения будет:   1 T T Y Y Y y    . Откуда и получаются искомые коэффициенты  . Рассмот- ренный пример иллюстрирует поиск оптимальной функции f мето- дом наименьших квадратов. Нелинейные методы Нелинейные модели лучше классифицируют объекты, однако их построение более сложно. Задача также сводится к минимиза- ции выражения (3.1). При этом множество F содержит нелинейные функции. В простейшем случае построение таких функций все-таки сводится к построению линейных моделей. Для этого исходное пространство объектов преобразуется к новому: : X X     .