Технологии интеллектуального анализа данных : учебное пособие

260 Обучение нейронной сети. После настройки конфигурации нейронной сети следует выбрать алгоритм ее обучения. Алгоритм обратного распространения ошибки – итеративный градиентный алгоритм обучения, который используется с целью минимизации среднеквадратичного отклонения текущих значений выходов сети от требуемых. Одним из важнейших свойств алго- ритма обратного распространения ошибки является высокая устой- чивость, а следовательно, надежность. Хотя нейронные сети, ис- пользующие алгоритм обратного распространения, являясь мощ- ным инструментом поиска закономерностей, прогнозирования и качественного анализа, и получили широкое распространение, имеют некоторые недостатки: невысокая скорость сходимости (большое число требуемых итераций), что делает процесс обучения слишком долгим, и поэтому данный алгоритм оказывается непри- менимым для широкого круга задач, требующих быстрого реше- ния. Другие алгоритмы обучения нейронных сетей хотя и работают быстрее, в большинстве случаев обладают меньшей устойчиво- стью. Для алгоритма обратного распространения ошибки нужно указать два параметра: 1) скорость обучения – определяет величину шага при итера- ционной коррекции весов в нейронной сети (рекомендуется в ин- тервале 0...1). При большой величине шага сходимость будет более быстрой, но имеется опасность «перепрыгнуть» через решение. С другой стороны, при малой величине шага обучение потребует слишком многих итераций. На практике величина шага берется пропорциональной крутизне склона так, что алгоритм замедляется вблизи минимума. Правильный выбор скорости обучения зависит от конкретной задачи и обычно делается опытным путем; 2) момент – задается в интервале 0...1. Рекомендуемое значе- ние 0,9 ± 0,1.