Evgenii Sarapulov - Евгений Сарапулов

Исследователи нашли в языковых моделях настоящие «эмоциональные схемы». Они не просто предсказывают слово «злой» или «радостный». Внутри сети есть конкретные нейроны и головы внимания, которые отвечают именно за выражение эмоций — гнева, грусти, страха, отвращения, радости и удивления. И их можно включать напрямую, минуя обычный текст. Статья называется «Do LLMs "Feel"? Emotion Circuits Discovery and Control» (arXiv, октябрь 2025). Авторы из MBZUAI и Пекинского университета работали в основном с Llama-3.2-3B-Instruct. Они собрали специальный датасет: одни и те же нейтральные ситуации (например, «человек идёт по улице») + разные исходы (хороший, нейтральный, плохой). Модель генерировала текст с нужной эмоцией, а исследователи смотрели, какие именно внутренние компоненты активируются. Потом нашли небольшие наборы нейронов и голов внимания, которые сильнее всего влияют на каждую эмоцию. Эти кусочки собрали в «схемы». И вот главное: они перестали писать промпты вроде «ответь сердито». Вместо этого **напрямую вмешивались в эти схемы** во время генерации. Результат — 99,65% точности на тестовом наборе. Модель почти всегда выдавала именно ту эмоцию, которую хотели, и делала это естественно. Лучше, чем обычные промпты (~99%) и чем классические steering-векторы (~91%). Один и тот же входной текст без всяких эмоциональных инструкций: - Вмешательство в схему гнева → резкий, раздражённый тон, короткие фразы, обвинения. - Схема радости → восклицания, лёгкость, «вау!». - Схема страха → осторожные формулировки, сомнения, ощущение угрозы. - Схема отвращения → отталкивающие описания, холодность. То есть модель не просто подбирает «правильные» слова. Меняется само внутреннее состояние, из которого она пишет. Интересный момент: положительные и отрицательные эмоции обрабатываются немного по-разному. А у некоторых моделей (например, Qwen) safety-alignment сильно подавляет прямое управление негативными эмоциями через steering. Обычными промптами это обходится легче, а вот вмешательство в активации — хуже. То есть выравнивание действительно «гасит» некоторые внутренние пути, но не так драматично, как иногда пишут. Важный нюанс❗❗❗ Авторы сами ставят «Feel» в кавычки. Речь не о том, что модель субъективно *переживает* страх или радость, как человек. Речь о том, что выражение эмоций в тексте опирается на вполне конкретные, локализованные и управляемые механизмы внутри сети. Это не «просто статистика следующих токенов» в самом примитивном смысле — там есть структура. Мы постепенно учимся не только спрашивать модель, но и трогать её изнутри. Это одновременно мощный инструмент контроля и серьёзный шаг к пониманию того, как вообще устроены «эмоции» в больших языковых моделях. Пока это работает на относительно небольших открытых моделях и на шести базовых эмоциях. Но направление понятное: от чёрного ящика — к схеме, которую можно разбирать и переключать. И чем лучше мы это умеем, тем острее становится вопрос, где проходит граница между «моделью, которая хорошо имитирует эмоции» и чем-то более интересным.