Activation steering для локальной LLM: чему учит неудачный эксперимент с Qwen3.5-0.8B

Иногда полезный результат исследования - это не график с красивым ростом метрики, а честное понимание, что выбранный метод не решает задачу в текущих условиях. В локальных LLM это особенно важно: бизнесу нужна не демонстрация «магии», а понятная инженерная картина - где метод применим, где он ломается и что делать дальше.

Мы провели практический эксперимент с activation steering / Contrastive Activation Addition (CAA) на Qwen3.5-0.8B. Цель: повернуть поведение маленькой локальной модели в сторону заданной манеры ответа без полноценного fine-tuning. Pipeline заработал: пары подготовлены, векторы посчитаны, steering изменял генерацию. Но качественного результата не получилось.

Именно поэтому эксперимент полезен. Он хорошо показывает ограничения activation steering, роль качества contrastive датасета и разницу между «модель начала отвечать иначе» и «модель стала отвечать лучше».

В январе-феврале 2026 года вышли исследования, которые систематически подтверждают то, что мы увидели на практике: steering - мощный, но ненадёжный инструмент, требующий дисциплины и правильной постановки задачи.

Грязный contrastive датасет

Хорошая CAA-пара должна отличаться преимущественно тем признаком, который мы хотим вынуть в вектор. Например: тот же смысл, но другой тон; та же структура, но больше краткости; тот же ответ, но без лишних дисклеймеров.

В нашем эксперименте positive и negative отличались слишком многим одновременно: длиной ответа, уровнем эмоциональности, фактическим содержанием, количеством галлюцинаций, структурой, уверенностью. В итоге вектор получился не «стиль», а смесь признаков: длинный агрессивный ответ против сухого слабого ответа. Такая смесь плохо управляется. Она может менять поведение, но не даёт стабильного улучшения.

Маленькая модель остаётся маленькой

Отдельный вывод касается Qwen3.5-0.8B как класса модели. Маленькие модели удобны для локальных экспериментов: они дешёвые, быстрые, помещаются на consumer GPU. Но у них есть жёсткий потолок.

Если модель не знает факт, путает сущности или уверенно придумывает ответ, activation steering не добавит ей недостающее знание. Он может сделать ответ более уверенным или более похожим на заданный стиль. Но он не заменит fine-tuning/LoRA, distillation от более сильной модели, RAG по проверенным источникам или фильтрацию датасета.

Не тот слой и не тот scale

Это нормальный симптом грязного вектора: на малых scale поведение меняется слабо, на больших - речь деградирует. Рабочий steering обычно имеет «золотую середину» - диапазон scale, где эффект заметен, но модель не ломается. У нас такой середины не нашлось.

Пропущенная skip connection

Исследование Sprocket Lab (ноябрь 2025) показало важную архитектурную деталь: post-MLP steering покрывает не более 70% block output. Остальные 30 - 60% - это skip-connected input, который остаётся не затронутым. Post-block steering (после skip connection) более выразителен и ближе к тому, что делает fine-tuning.

Sober Look: steering часто ненадёжен

Исследователи из KASL и UCL DARK опубликовали систематический обзор проблем activation steering. Ключевые выводы:

• Ненадёжность: многие методы не обобщаются за пределами тренировочного сетапа. Steerability сильно варьируется между концептами, некоторые принципиально не-steerable.
• Деградация качества: steering часто ухудшает производительность модели - эквивалентно потере половины pre-training compute на сложных вопросах MT-Bench.
• Завышенные метрики: стандартные способы оценки (например, multiple-choice) переоценивают эффективность. В открытой генерации результаты заметно слабее.
• Линейные методы недостаточны: многие концепты представлены нелинейно в activation space, чисто линейные steering-методы не могут их захватить.

Новые подходы

Spherical Steering (февраль 2026): вместо простого добавления вектора - вращение активаций с сохранением нормы. Решает компромисс между силой вмешательства и сохранением качества генерации.

Contrastive Neuron Attribution (CNA) - Nous Research, май 2026: абляция разреженных MLP-схем вместо добавления векторов. Steering через выключение конкретных нейронов, без обучения SAE и без изменения весов.

AlphaSteer - ICLR 2026: теоретически обоснованный метод с двойной целью - сохранение полезности + повышение безопасности. Учит near-zero steering vectors для безвредных запросов.

DIRECTER - ICLR 2025: динамический steering с plausibility-guided decoding, adaptively modulates strength и отвергает неправдоподобные выходы.

Steering vs Fine-tuning: единая рамка

«Why Steering Works» (февраль 2026) помещает weight fine-tuning, LoRA и activation steering в единую теоретическую рамку как «динамические обновления весов, индуцированные управляющим сигналом». Steering может приближаться к fine-tuning по выразительности, но только при правильном выборе места вмешательства (post-block) и достаточной параметризации (low-rank адаптеры, не фиксированный вектор).