Методы снижения вычислительной емкости многокритериального эво-люционного поиска оптимальной структуры нейронной сети
Поскольку при поиске оптимальной структуры нейросетевой модели ин-формационных каналов СЭС отсутствует какая-либо априорная информация об оптимальном числе слоев, типах нейронов, параметрах обучения и т. п., то выбор наиболее рационального варианта генетической адаптации вычислительного про-цесса является определяющим фактором не только для общей вычислительной емкости формирования искомой нейросетевой модели информационного канала СЭС, но и вообще прямо влияет на сходимость этого процесса за технологически допустимое время. При построении нейросетевых моделей информационных ка-налов фитнес-функция, как правило, носит комплексный (или многокритериаль-ный) характер, поскольку в неё входят не только значения среднеквадратичных отклонений выхода нейросетевой модели на обучающей и тестовой выборках, но и ряд параметров, характеризующих скорость и качество обучения. Поэтому кон-кретная реализация генетического алгоритма имеет значение не только в выше-рассмотренном архитектурном смысле. Важным аспектом является также собст-венно ход вычислений, частота и способ выполнения операций кроссинговера и мутации.
Рассмотрим существующие [141] подходы применения генетических алго-ритмов с точки зрения реализации процесса генетической адаптации. Такое рас-смотрение и сравнение позволят снизить вычислительную емкость многокритери-ального эволюционного поиска за счет выбора в каждом конкретном случае адек-ватного метода генетической адаптации.
При использовании генетического метода с сортировкой по принципу не-доминантности (nondominated sorting genetic algorithm, NSGA) в первую очередь генерируется группа хромосом с наилучшими значениями фитнес-функции (хро-мосомы, для которых нет доминирующих над ними других хромосом), затем формируется новая группа наилучших уже из оставшихся и т. д. [241], а для уп-лотнения хромосом в группах используется метод распределения фитнес-функции. Таким образом, для хромосомы выполняется классификация по достиг-нутому в рамках текущей популяции значению фитнес-функции особей. При этом те хромосомы, которые попали в первую группу (обычно их называют множество Парето), получают большую вероятность в процессе отбора для последующего скрещивания.
Генетический метод с предварительной проверкой на недоминантность в группе хромосом (niched-Pareto genetic algorithm, NPGA) использует турнирный отбор [206]. Поскольку в этом случае не используется сортировка по признаку не-доминантности в рамках всей популяции (в отличие от методов NSGA и рассмот-ренного ниже MOGA), то этот метод работает несколько быстрее. Впрочем, для эффективной эксплуатации этого метода необходимо корректно выбрать размер турнира, что является нетривиальной задачей.
Эволюционный метод с множественными критериями оценки (multi-objective genetic algorithm, MOGA) использует ранжирование хромосомного набо-ра по принципу недоминантности (nondominated ranking) [211]. При этом ранг от-дельной хромосомы зависит от числа хромосом, которые доминируют над ней. Удобно представить хромосомный набор в виде дерева или иерархии, причем ранг хромосомы соответствует уровню в такой иерархии. Недоминантным хромо-сомам присваивается наименьший ранг , всем остальным: , где - число хромосом, которые доминируют над j-й хромосомой . Значения фитнес-функции присваиваются хромосомам в зависимости от ранга , используя при этом некоторую функцию, которая преобразует значение ранга в значение фитнес-функции. Для уплотнения хромосом используется метод распре-деления фитнес-функции. Для получения новых решений применяются операторы двухточечного скрещивания и простой мутации.
