Исследователи из MIT опубликовали статью, в которой утверждается, что модель GPT-6 Astra способна напрямую интерпретировать веса других языковых моделей и определять их назначение без дообучения. По заявлению авторов, система может «читать и писать на языке весов», улучшая чужие модели без традиционного обучения.

Автор публикации на Habr решил воспроизвести эти эксперименты в домашних условиях и разобраться, как механизм работает на практике. По его словам, реальная картина заметно отличается от того, как это подано в оригинальной статье.

Подробности эксперимента и техническая реализация описаны в полном тексте материала. Автор обещает показать, какие именно методы скрываются за громкими формулировками о «нативном чтении весов».

Основной вывод сводится к тому, что заявленные возможности работают не так буквально, как звучит в заголовке исследования. Реакция сообщества на подобные громкие анонсы пока остаётся сдержанной.