LINUX.ORG.RU

Почему нейросети делят на слои?

 , ,


0

3

Нейроны сгруппированы слоями. Каждый нейрон одного слоя, связан со всеми нейронами следующего слоя, как и со всеми нейронами предыдущего слоя, но не связан с другими нейронами своего слоя. Сама нейронная сеть состоит как минимум из двух слоев нейронов – входного слоя и выходного слоя, между которыми может находиться произвольное количество, так называемых, скрытых слоев

https://geektimes.ru/post/136316/

Не совсем понял, откуда взялось это ограничение — строгое разделение на слои? И, соответствует ли это реальной биологической нервной системе?

Многослойный перцептрон — это лишь одна из архитектур сети, просто самая популярная. В мозге тоже можно встретить слоистую структуру, хотя там, конечно, все намного сложнее. Если быть честным, то и нейроны мозга работают вовсе не так, как это предполагается в перцептроне. Но задача не в том, чтобы мозг смоделировать, а в том, чтобы решить свои проблемы. И перцептрон их часто решает, потому и популярен.

anonymous
()

Каждый нейрон одного слоя, связан со всеми нейронами следующего слоя, как и со всеми нейронами предыдущего слоя

Тут описывается лишь одна из простейших моделей, персептрон наверное.

соответствует ли это реальной биологической нервной системе?

Смотря что «это». Описанная модель конечно не соответствует. Строго говоря ни одна из существующих моделей не соответствует. А если ты про слои то да.

mbivanyuk ★★★★★
()
Ответ на: комментарий от portquest2016

Ничего не отличается, просто определись о каких слоях ты говоришь. Слои в понимании автора той статейки это лишь удобная модель, послойные вычисления выполнять проще и быстрее, при этом сами нейроны могут быть одинаковыми. А на самом деле нейроны в мозгу разные но образуют слоистую структуру. Википедия подсказывает нам, что:

Нейроны коры расположены нерезко отграниченными слоями. Каждый слой характеризуется преобладанием какого-либо одного вида клеток. В двигательной зоне коры различают 6 основных слоёв:

Молекулярный (лат. lamina molecularis)
Наружный зернистый (лат. lamina granularis externa)
Пирамидальных нейронов (лат. lamina pyramidalis)
Внутренний зернистый (лат. lamina granularis interna)
Ганглионарный (слой клеток Беца) (лат. lamina ganglionaris)
Слой мультиформных (полиморфных) клеток (лат. lamina multiformis)

mbivanyuk ★★★★★
()
Последнее исправление: mbivanyuk (всего исправлений: 1)
Ответ на: комментарий от mbivanyuk

А Вы уверены, что там речь об архитектурном расположении слоев(с точки зрения связей), а не о физическом(пространственном)?

portquest2016
() автор топика
Ответ на: комментарий от portquest2016

Эти шесть слоёв в мозгу человека соединены между собой послойно (есть ещё и обратные связи между слоями).
В мозгу дельфина, если не изменяет память, 3 слоя.
Участки этих слоёв входят в «домены», эти «домены» тоже соединены между собой послойно/иерархично/... .

anonymous
()
Ответ на: комментарий от anonymous

Читал давно могло и забыться. :)

anonymous
()
Ответ на: комментарий от rezedent12

Си́напс (греч. σύναψις, от συνάπτειν — соединение, связь) — место контакта между двумя нейронами или между нейроном и получающей сигнал эффекторной клеткой. Служит для передачи нервного импульса между двумя клетками, причём в ходе

Место контакта проходит через отделы спинного мозга? Может аксон?

portquest2016
() автор топика

Ещё причина: простое математическое описание, уровня G(\sum {w_1 * F( [\sum x * w_2] + s)} + S), где G(x) и F(x) --- активационные функции.

Если хочется изврата, то см. рекуррентные сети.

DarkAmateur ★★★★
()
Последнее исправление: DarkAmateur (всего исправлений: 1)

Почему нейросети делят на слои?

Вот представь ты пишешь программу ..

Вопрос — почему тебе нужно сделать несколько *вложенных_ветвлений* (функции вложенные внутри функций), а не просто один большой ``switch (..) { ... }`` с кучей ``case ...`` внутри?

Вложенные слои создают сложную логику перцептрона .

А отсутствие вложенных слоёв — это просто обычный большой ``switch (..) { ... }``

user_id_68054 ★★★★★
()
Последнее исправление: user_id_68054 (всего исправлений: 1)

На этот вопрос есть два ответа.

1) Это самое простое что можно получить итерированием применения линейного оператора и нелинейности: L(x), N(L(x)), L(N(L(x))) и т.д.

2) Такого ограничения нет. Положим в современных сверточных нейросетях связанных с компьютерным зрением иногда бывает затруднительно сказать что тут слой (например inception modules, highway connections и т.д.).

neird
()
Ответ на: комментарий от portquest2016

Место контакта проходит через отделы спинного мозга? Может аксон?

Да. Вероятно перепутал.

rezedent12 ☆☆☆
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.