Искусственные нейронные сети

Основной технологией, используемой мною для решения задач обработки и анализа данных, распознавания изображений, классификации и прогнозирования являются искусственные нейронные сети.

Нейросети получили широкое практическое распространение за последние 25 лет и позволили решать сложные задачи обработки данных, часто значительно превосходя точность других методов статистики и искусственного интеллекта, либо являясь единственно возможным методом решения отдельных задач.

Здесь будут перечислены основные идеи, лежащие в основе нейронных сетей и нейросетевых алгоритмов, их возможности и преимущества, способы применения на практике, основные области применения, рассмотрена достигаемая точность решения задач, связь нейросетей с искусственным интеллектом. Перечень задач (в абстрактном виде), для решения которых применяются нейронные сети, дан на странице "Услуги - решаемые задачи".

Дополнительная информация о нейронных сетях содержится в большом числе моих научных статей и заметок, а также на указанных на странице ссылок российских и зарубежных сайтах. Я использую нейросетевые программы собственной разработки, сопоставимые по возможностям с промышленными нейропакетами (Statistica Neural Networks, NeuroShell,..).

Среди заметок, посвященных нейросетям и опирающихся на цитирование современной зарубежной литературы или несущих малоизвестную фактологическую информацию, можно отметить следующие:

о превосходстве попримерных (online) алгоритмов обучения над алгоритмами обучения по суммарному градиенту;
о частой неадекватности обученных нейросетей и о методологии использования кривых обучения для определения наиболее оптимального размера сети в конкретной прикладной задаче;
о самоорганизующихся нейронных сетях (картах) Кохонена, применяемых для задач визуализации и разведочного анализа данных;
об интервальных нейронных сетях (для обработки неточно заданной или недоопределённой информации);
о возможности сделать нейрокомпьютер из видеокарт - о переносе нейровычислений с процессора обычного компьютера на его видеокарту;
о новых мировых научных и практических тенденциях в области многослойных нейронных сетей (свёрточные нейросети, deep belief nets,..);
об алгоритме обратного распространения ошибки - одном из наиболее широко используемых на практике методов обучения, позволяющем максимально эффективно вычислять градиент (набор частных производных) для любой сложной функции.
о вычислительно трудозатратном гиперболическом тангенсе (наиболее широко применяемой сигмоидной нелинейной функции нейронов), что приводит к замедлению работы и обучения нейросетей;
о пригодности любой нелинейной функции нейронов для возможности аппроксимации многослойной нейросетью любой функции многих переменных (т.е. если упомянутый выше гиперболический тангенс вам кажется медленно работающим и вы не хотите использовать быстрый способ его аппроксимированного расчёта - можете брать другую нелинейную функцию нейронов);
про многослойный персептрон Розенблатта (надо же не забывать классику);
о существовании алгоритмов обучения всех слоёв нейронной сети с пороговыми нейронами (т.е. у персептрона Розенблатта можно обучать не только его выходной нейрон);