LINUX.ORG.RU

Яндекс


10

14

Всего сообщений: 455

См. также:

 , , , , , , , ,

Синонимы:

 yandex

Яндекс выложил в открытый доступ языковую модель YandexGPT-5-Lite

Яндекс выложил в открытый доступ языковую модель YandexGPT-5-Lite
Группа Open Source

Архитектура новой языковой модели похожа на Llama или Qwen, но она обучалась полностью с нуля. Похожесть позволяет использовать тот же инструментарий. Pretrain-версия большой языковой модели YandexGPT 5 Lite на 8B параметров с длиной контекста 32k токенов. При обучении модели особое внимание уделялось русскому языку, материалы на русском составили более 70% датасета.

Старшая модель YandexGPT 5 доступна в Алисе и на сайте Яндекса, но она в открытый доступ выложена не будет.

В своей категории модель достигает паритета с мировыми SOTA по ряду ключевых бенчмарков для pretrain-моделей, а по многим другим — превосходит их. Например, по результатам внутреннего слепого попарного сравнения (side-by-side) для широкого потока запросов YandexGPT 5 Pro превосходит YandexGPT 4 Pro в 67% случаев и не уступает GPT-4o.

>>> Подробности на Хабре

>>> Скачать

 , ,

Aceler
()

Еще новости

2023

2022

2021

2018

2017

2016

2015

2014

2013

Галерея

Форум

Апрель 2025

Февраль 2025

Январь 2025

Ноябрь 2024

Октябрь 2024

Сентябрь 2024

Август 2024

Июль 2024

2024

2023