Тривиальная нейросеть — штука универсальная. Ей всё равно, какой опыт накапливать. Она способна накапливать любой тривиальный опыт. Опыт игры в шахматы, опыт приготовления рассольника, опыт перемножения цифр и так далее.
Мы уже знаем, что накопленный опыт — это квантовый рисунок. Раз нейросеть накопила и хранит множество разных опытов, значит, она стала похожа на альбом с рисунками.
Тогда спрашивается, как и почему нейросеть выключает (закрывает) один квантовый рисунок и включает (открывает) другой квантовый рисунок?
Как нейросеть перестраивается с игры в шахматы на стирку белья, например?
Как нейросеть угадывает, какой рисунок ей следует открыть в данной ситуации?
Ключом, запускающим тот или иной рисунок, является сам входной сигнал. Та информация, которая приходит извне, сообщает на входе в нейросеть, какой рисунок следует открыть.
Дело в том, что сигнал, который наш разум получает извне, можно представить себе как мешок горошин, которые сыпятся на верхний слой нейросети нашего разума.
А самый первый слой нейронов в нашей нейросети похож на огромную клавиатуру пианино, в которой может находиться несколько миллионов клавиш. Представьте себе, что каждый нейрон — это одна клавиша такого пианино.
Когда приходит сигнал извне, то его горошины «ударяют» не по одной, не по пяти, а по огромному количеству клавиш. Их ведь несколько миллионов.
По каким-то клавишам горошины ударяют сильнее, по каким-то слабее, а по каким-то сила удара почти равна нулю. В результате от первых ударов горошин в первом слое нейросети возникают первые ноты или первые аккорды.
А теперь вспомните игру «Угадай мелодию». Там участники игры по первым нотам угадывают песню и начинают исполнять её дальше.
Приблизительно то же самое происходит в нейросети. Она тоже угадывает мелодию по первым нотам, по первым аккордам. Угадывает и открывает нужный рисунок. Иногда может и ошибаться: я вам говорю одно, а вы рисуете в своем воображении совсем другой смысл.
Обратите внимание на очень важный момент. Входящий сигнал похож на набор падающих горошин. Каждая горошина ударила по какой-то клавише и отскочила в сторону. Отскочила и улетела прочь от нейросети.
Внешний сигнал не погружается дальше в нейросеть. Он отскакивает от абсолютно белого тела поверхности нейросети.
В глубь нейросети идут её собственные сигналы, которые вырабатываются клавишами-нейронами первого слоя после удара по ним горошинами. Такая система дает очень многое.
Во-первых, разум человека таким образом защищает себя от вирусов, от которых страдают обычные компьютеры.
А во-вторых, миллионы или миллиарды сигналов, которые циркулируют внутри сети, «разговаривают на одном языке».
Вот смотрите, какая фишка получается. Мы говорили, что все сигналы должны иметь разные веса (важность, ценность).
Термин «вес» мы используем в математическом смысле слова, но для большей образности можем нарисовать в своем воображении привычную картину, когда у каждой падающей горошины имеется обычный вес, как у любой обычной горошины.
Так как разные горошины имеют разный вес, то и ударяют они по клавишам с разной силой.
У одной горошины вес может быть один грамм, у второй — два килограмма, у третьей — семь тонн.
Если мы оставим их реальный вес в нейросети, то она будет работать очень плохо. Поэтому есть смысл пойти на хитрость.
Нейросеть говорит сама себе на языке математики: пусть вес любой упавшей горошины будет больше нуля на сколь угодно малую величину, но при этом ни один вес не может быть больше одного грамма.
Представим себе, что у одной упавшей горошины вес был один грамм, у второй — два килограмма, у третьей — семь тонн.
На какую хитрость идет нейросеть? Она считает, что вес самой тяжелой горошины был 0,7 грамма. Тогда вес средней горошины будет в 3 500 раз легче, а вес легкой горошины будет аж в 700 000 раз легче.
Вот такая ситуация, при которой любые веса любых сигналов измеряются одним и тем же мерилом (метром), приводит к тому, что все нейроны разговаривают друг с другом на одном языке. В результате нейросеть становится гораздо совершенней.
Разум предназначен для работы с картинками | Домашнее задание про Вавилонскую башню |