LINUX.ORG.RU

История изменений

Исправление Sadler, (текущая версия) :

Получится ли нейросеть умеющая решать обе задачи?

Получится нейросеть, не умеющая ничего. Чтобы коэффициенты можно было складывать, обе нейросети должны быть обучены хотя бы примерно одинаково: скажем, учим мы на кластере независимо 1000 нейросетей, каждые 100 итераций усредняем их веса.

Если уж обращаться к фантастике, то можно представить сотню клонов, которым загружают исходное состояние сознания, а затем синхронизируют их с оригиналом после получения знаний.

Касательно же передачи знаний и умений, куда проще подключать уже готовые модули, выдающие нужные паттерны нашей нейросети в читаемом виде. Скажем, пусть модуль по запросу выдаёт данные прямо в кратковременную память, не дообучая нашу нейросеть напрямую.

Исправление Sadler, :

Получится ли нейросеть умеющая решать обе задачи?

Получится нейросеть, не умеющая ничего. Чтобы коэффициенты можно было складывать, обе нейросети должны быть обучены хотя бы примерно одинаково: скажем, учим мы на кластере независимо 1000 нейросетей, каждые 100 итераций усредняем их веса.

Касательно же передачи знаний и умений, куда проще подключать уже готовые модули, выдающие нужные паттерны нашей нейросети в читаемом виде. Скажем, пусть модуль по запросу выдаёт данные прямо в кратковременную память, не дообучая нашу нейросеть напрямую.

Исходная версия Sadler, :

Получится ли нейросеть умеющая решать обе задачи?

Получится нейросеть, не умеющая ничего. Чтобы коэффициенты можно было складывать, обе нейросети должны быть обучены хотя бы примерно одинаково: скажем, учим мы на кластере независимо 1000 нейросетей, каждые 100 итераций усредняем их веса.