История изменений
Исправление goingUp, (текущая версия) :
Логируется логика поиска и принятия решения. Или вам кажется, что разработчики сделали перемножение гиганьских матриц и теперь с ужасом и непониманием смотрят на происходящее?
Ну как-то так. Во время обучения в нейросеть загружали массу текстов, во время этого высчитывались ее 175 миллиардов параметров. Потом текст переводится в числа, подается на вход, с выхода снимается результат. Логики поиска и принятия решения нет, оно по заданному вопросу аппроксимирует ответ, как аппроксимируют функцию, только сложнее. И это не мое мнение, часто можно услышать про black box, в том числе в видео, что я скидывал, и что даже разработчики не знают, что реально происходит в их Generative Pretrained Transformer.
Исходная версия goingUp, :
Логируется логика поиска и принятия решения. Или вам кажется, что разработчики сделали перемножение гиганьских матриц и теперь с ужасом и непониманием смотрят на происходящее?
Ну как-то так. Во время обучения в нейросеть загружали массу текстов, во время этого высчитывались ее 175 миллиардов параметров. Потом текст переводится в числа, подается на вход, с выхода снимается результат. Логики поиска и принятия решения нет, оно по заданному вопросу аппроксимирует ответ, как аппроксимируют функцию, только сложнее. И это не мое мнение, часто можно услышать про black box, в том числе в видео, что я скидывал, и что даже разработчики не знают, что реально происходит в их Generative Pertained Transformer.