GPT-6 без дообучения улучшила веса Qwen3.5-0.8B Просто поразительное исследование выпустили сегодня рисерчеры…

GPT-6 без дообучения улучшила веса Qwen3.5-0.8B

Просто поразительное исследование выпустили сегодня рисерчеры из MIT CSAIL. Они показали, что топовые LLM могут напрямую читать и осознанно менять веса нейросетей, причем без градиентного спуска и обучения.

Это назвали Weight-Space Programming.

В главном эксперименте авторы дали Astra веса крошечной Qwen3.5-0.8B и попросили улучшить ее способности в математике. В итоге Astra обнаружила в весах нейроны, из-за которых модель зацикливалась в рассуждениях, и исправила их. Всего она переписала около 0.016% весов, и после этого на MATH-500 скор Qwen3.5-0.8B вырос с 7,9% до 48,1%, а на GSM8K – с 13,8% до 67,1%.

Это не все. Оказалось, что Astra может неплохо интерпретировать модели по весам.

Например, ученые дообучили 4 одинаковые модели играть в разные игры: Breakout, Pong, Pac-Man и Freeway. Astra получила только веса (около 17 тысяч чисел) и описание входов, без названий игр, и смогла угадать, чему учили эти модели, во всех четырех случаях.

В другом эксперименте три диффузионные модели рисовали круг, квадрат и треугольник. Astra по весам определила каждую фигуру, прочитав выходной слой. Важно, что при этом она не запускает эти сети, а просто читает веса.

А еще Astra умеет писать нейросети с нуля. Она без обучения, с нуля, взяла и выдала веса сетей для трех игр MinAtar. Во всех трех случаях она обошла модели, которые были обучены с помощью обучения с подкреплением (PPO) на 100 млн шагов.

Также авторы просили ее написать сеть для игры в Go. Она написала веса одним скриптом на 336 строк и выиграла больше половины партий у двух маленьких обученных на PPO сетей. Если же ей давали возможность несколько раз прогнать свою сеть в песочнице, то она обыгрывала равную по размеру PPO-сеть, обученную на 20 млн партий.

Результаты пока ранние, но само направление невероятно многообещающее. С помощью Weight-Space Programming можно было бы делать элаймент, аудит моделей, дешевую инициализацию весов, ну и рекурсивное самоулучшение на десерт.

Сейчас авторы делают бенчмарк и харнесс для оценки способностей моделей к такому программированию весов. Полные логи всех экспериментов выложены на GitHub.

https://rikiyat.github.io/blog/weight-space-programming/