LINUX.ORG.RU

История изменений

Исправление goingUp, (текущая версия) :

Логируется логика поиска и принятия решения. Или вам кажется, что разработчики сделали перемножение гиганьских матриц и теперь с ужасом и непониманием смотрят на происходящее?

Ну как-то так. Во время обучения в нейросеть загружали массу текстов, во время этого высчитывались ее 175 миллиардов параметров. Потом текст переводится в числа, подается на вход, с выхода снимается результат. Логики поиска и принятия решения нет, оно по заданному вопросу аппроксимирует ответ, как аппроксимируют функцию, только сложнее. И это не мое мнение, часто можно услышать про black box, в том числе в видео, что я скидывал, и что даже разработчики не знают, что реально происходит в их Generative Pretrained Transformer.

Исходная версия goingUp, :

Логируется логика поиска и принятия решения. Или вам кажется, что разработчики сделали перемножение гиганьских матриц и теперь с ужасом и непониманием смотрят на происходящее?

Ну как-то так. Во время обучения в нейросеть загружали массу текстов, во время этого высчитывались ее 175 миллиардов параметров. Потом текст переводится в числа, подается на вход, с выхода снимается результат. Логики поиска и принятия решения нет, оно по заданному вопросу аппроксимирует ответ, как аппроксимируют функцию, только сложнее. И это не мое мнение, часто можно услышать про black box, в том числе в видео, что я скидывал, и что даже разработчики не знают, что реально происходит в их Generative Pertained Transformer.