Нейронные сети. 8. Технология обучения сети. Часть 1

8 урок по изучению нейронных сетей.

[Art_ZhoRa]

преподавательские способности автора на высоте

[hdrenzt]

1) Локальные оптимумы - проблема эволюционных алгоритмов. Почитай еще про генетический алгоритм. Понравится.
2)Один весовой коэффициент - одномерный случай. Оптимизация одномерной задачи существует. Строятся сети, но лишь для проверки работоспособности. Так как для оптимизации одномерного случая есть тотже метод Фибоначчи или золотое сечение.
3)Кенгуру - это круто. Но удобней было бы показать, что весовой коэффициент - градиент в обратную сторону, а координата - аксон, который входит в дендрит. И что увеличение того или другого приводит к соответствующим результатам.
4) Градиент - это хоть и вышмат, но для одномерного случая это изи производная, которую проходят в школе:)
5) Многие не любят математику за то, что она такая сухая и абстрактная. Не настраивай людей так. Не нужно говорить, что вышмат - это сложно. Покажи формулу, объясни что представляют операнды и люди скажут "ого! и этого я раньше боялся?!" абстракция кенгурятиной уж очень высокая.
6) Красавчик. Пока есть люди, которые пытаются разбираться в революционных вещах, не все потеряно:)

[zfubfzb]

Отличный курс! Большое спасибо автору!
Однако, к этому уроку есть замечание. Дело в том, что в двухмерном случае (для одного входа) у нас есть функция W=f(X). Когда мы переходим к трехмерному варианту, это на самом деле не функция для двух входов. Это вполне себе функция для множества входов, то есть функция W=f(X, Y), где: W- погрешность, X-значение весового коэффициента, Y-номер входа. Таким образом, для описания поверхности ошибки сети, у которой входов больше двух не требуется многомерного пространства, а достаточно трехмерного.
Я конечно, могу ошибаться, но в таком случае мне не понятно, откуда берутся оси со значениями на входах, о них ничего не сказано при описании модели с одним входом. Все остальное понятно и отлично излагается!

[smartme]

а где ты всё это изучаешь, дай пару первоисточноков, так сказать)

[ssbmidc]

скажи пожалуйста, а веса для каждого слоя задаются разные, или для всех слоев должны быть одинаковые?

[polzvatele]

я тоже применяю метод найскорейшего спуска, только в момент интима

[SERG__ZV]

Забавный факт. Ты обучаешь людей обучать нейронные сети) Такой дедушка учитель))

[VitaliyShabalin]

Измученный слепой кенгурёнок, посвятивший всю свою жизнь прыжкам по многомерному пространству в поисках минимальной погрешности хочет спросить: почему бы не запоминать минимальную погрешность и не проверять её при каждой итерации обучения? Это ведь будет абсолютно точно и возможно быстрее.

[Qwerty.]

извините, есть тут кто живой?
под впечатлением от этих уроков, запилил неиросеть амебы, амебы потомучто неиросетью это назвать наверно нельзя, ну в общем она распазнает буквы которые я рисую в паинтбоксе. распознает реалтайм, как для первого опыта мне кажется сойдет.буду развивать. вот только делема)))) скопировал релиз на флешку, проверил, работает, включил на другом пк, там не работает. Почему так ?

[vitaliymaevskiy]

Ах почему нам в универе производную с помощью кенгуру не объясняли, я б с первого раза все понял бы! =)

[alexmcfly]

по приблизительным подсчетам около 86 миллиардов нейронов в головном мозге у здорового среднестатистического человека ))) а не триллионов ) хотя и так сойдет )

[mykolaovdiichuk]

Почему при переходе на адрес сайта висвечивается реклама порнографии 😆

[megastuffer]

Какие триллионы, 100 миллиардов нейронов

[higoraleks]

Реклама каждые 2 минуты это конечно писец.

[eclsynd]

Нахрена мне свойства сетей, обучи как именно создать сеть? Пошагово...

[Hunter]

"прямая"... прости, не удержался

[CaesarTF]

Сук, ну ты и картавишь и шепелявишь одновременно, капец. Сначала выпендривался мол, можно использовать в своих проектах. все дела, сам сидит толкает тут только абстрактную теорию, ни формул, ни кода, какие-то ооооочень общие принципы.

[smartme]

а где ты всё это изучаешь, дай пару первоисточноков, так сказать)