Вопросы, связанные с процессом мышления — тем, что искусственный интеллект успешно осваивает уже 80 лет, — волновали философов еще с незапамятных времен. Можно сказать, что предпосылки развития нейронных сетей появились за много лет до нашей эры, когда древние мыслители стали задумываться, можно ли при помощи формальных правил вывести правильное заключение, и каково происхождение знаний. Принципы рациональности были сформулированы Аристотелем. Его и можно назвать первым исследователем будущих нейронных сетей: он предложил систему силлогизмов для проведения правильных рассуждений, приводящих к правильному же ответу. К этому затем возвращались и Томас Гоббс (он проводил аналогию между расчетами и рассуждениями), и Рене Декарт (он искал различия между разумом и материей), и Фрэнсис Бэкон (он изучал источник знаний). Затем логика высказываний была детально разобрана исследователем Джорджем Булем. Основываясь на булевой алгебре (так было названо учение Джорджа), итальянский математик Джероламо Кардано сформулировал идею теории вероятности. Огромный вклад в ее развитие также внес всем известный Блез Паскаль.

Несмотря на множество попыток приблизиться к искусственному интеллекту, термин «нейросеть» стал употребляться только в середине XX века. Тогда ученые принялись за изучение мозга, который оказался миллиардами нейронов, снабженных причудливыми реакциями. Компьютерная модель нейронной сети появилась в 1943 году. Нейроны Мак-Каллока — Питтса, названные так по фамилиям своих создателей, могли обучаться при помощи относительно простой подстройки параметров. Сами исследователи же полагали, что при должном развитии нейросеть будет обладать всеми признаками интеллекта. Благодаря этому к развитию нейросетей сейчас есть целых два подхода: первый ориентируется на изучение головного мозга человека, второй — на работу с самим искусственным интеллектом, формирующимся нейросетями. В 1949 году появилась «теория самообучения системы», из которой следовало, что искусственный интеллект, как и интеллект реальный, способен спонтанно обучиться выполнять задачу без стороннего вмешательства. Сеть, умеющая спонтанно обучаться, была придумана через 5 лет после этого.

На достигнутом ученые не остановились. В 1957-м свет увидели модели восприятия мозгом информации. В них уже работали обучающиеся нейронные сети. В 1961-м появилась первая действующая машина, способная распознать буквы, написанные на карточках. Карточки нужно было подносить к «глазам» устройства, больше напоминающим кинокамеры.

Однако повсеместный интерес к нейросетям угас, когда в 1969 году вышла научная работа Минского и Пейперта. Они обнаружили, что нейронная сеть не способна выбирать между двумя переменными, то есть реализовывать функцию «исключающего или», и не может обработать внушительный объем информации, поскольку не обладает нужной для этого мощностью. Впрочем, первая проблема была решена уже в 1975 году, вторая — в начале 80-х, в момент появления более мощных компьютеров. В 1982-м появился механизм двусторонней передачи информации между нейронами. Это стало настоящим прорывом: ранее информацию можно было передать только в одну сторону. Спустя пять лет публике были представлены модели нейросетей, не уничтожавших старую информацию при получении новой, а использующих ее для совершенствования своих реакций. В 2006 году ученые предложили несколько вариантов неконтролируемых процедур обучения нейросетей. Сейчас исследования, посвященные новым открытиям в области искусственного интеллекта, выходят каждый год: нейросети не просто изучаются, а активно внедряются в различные продукты.