История изменений
Исправление Solace, (текущая версия) :
https://github.com/facebookresearch/fastText/blob/master/docs/crawl-vectors.md
Ниже по ссылке веса.
По сути все это вариации word2vec: функции, что переводит слово (формально n-gram) в вектор. Учится все это дело в unsupervised манере, на больших объемах текста. Полученные репрезентации обычно улавливают разные типы близости слов. Семантическую, например.
Добрые дяди из Фейсбук взяли и обучили такую сеть, выложив результат.
На практике это позволяет достигать высокой точности во многих задачах. Но глубина сети в таких случаях обычно небольшая, 1-2 слоя.
Исходная версия Solace, :
https://github.com/facebookresearch/fastText/blob/master/docs/crawl-vectors.md
Ниже по ссылке веса.
По сути все это вариации word2vec: функции, что переводит слово (формально n-gram) в вектор. Учится все это дело в unsupervised манере, на больших объемах текста. Полученные репрезентации обычно улавливают как разные типы близости слов. Семантическую, например.
Добрые дяди из Фейсбук взяли и обучили такую сеть, выложив результат.
На практике это позволяет достигать высокой точности во многих задачах. Но глубина сети в таких случаях обычно небольшая, 1-2 слоя.