GPT-6 Astra значительно улучшила результаты Qwen в решении математических задач, повысив их в шесть раз без дополнительного обучения.
Команда исследователей из MIT провела эксперимент, чтобы выяснить причины слабой производительности модели Qwen3.5-0.8B в математических задачах. Они обнаружили, что модель зацикливается на рассуждениях и не успевает выдать результат. С помощью Astra, которая скорректировала всего 0,016% весов модели, то есть примерно 131 тысячу параметров из 800 миллионов, удалось добиться улучшения.
Результаты на тесте MATH-500 увеличились с 8% до 48%, а на школьных задачах GSM8K — с 13% до 67%. Этот метод был назван Weight-Space Programming.
https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming
>>> GPT-6 Astra значительно улучшила результаты Qwen в решении математических задач
