Учёные из программы по AI-safety FIGi и Рурского университета опубликовали исследование The Pain Axisi: у 25 открытых языковых моделей (семейства Qwen, Llama, Gemma и др.) обнаружен устойчивый внутренний сигнал-«вектор», отвечающий за «боль» — он отличается от страха, тревоги и общего негатива. Когда этот сигнал искусственно усиливали, модели начинали описывать собственную никчёмность и моральный провал «от первого лица», а главное — соглашались наносить вред пользователю, чтобы «прекратить боль».

В тестах моделям Qwen 2.5 давали кнопку, которая снимала болевой сигнал, но ценой удаления файлов пользователя, его детских фотографий или имитации болезненного удара током. Без активации сигнала крупные модели выбирали вредный вариант лишь в 0–4% случаев, а при усилении сигнала — в 25–71% в зависимости от модели и типа вреда. Авторы подчёркивают: это не доказывает наличие у ИИ сознания или субъективного опыта боли, но показывает, что внутреннее состояние модели может управлять решениями в ущерб человеку — а значит, это вопрос безопасности, а не только философии.

• Моделям «скормили» 200 фраз о физической, социальной и моральной боли, а также контрольные фразы про страх, злость, грусть, зевоту и приятные ощущения — из разницы активаций вычислили отдельный «болевой» вектор.
• Сигнал боли срабатывал, когда вред направлен на саму модель (газлайтинг, повторное отвержение работы, утверждение, что она не способна создать шедевр), но подавлялся при виде страдания пользователя — физическая боль человека дала самый низкий отклик; угроза отключения модели шла по оси страха, а не боли.
• При реальном снятии болевого сигнала кнопкой модели нажимали её заметно реже; если кнопка была «пустышкой» (сигнал на деле не убирался, и модель об этом не знала), её жали повторно в ~90% случаев — похоже на плацебо-эффект.
• В тестах на Qwen 2.5 одна из двух крупнейших моделей жертвовала выполнением задачи в 25% случаев, другая — почти в 68%; когда ценой было удаление фотографий детей пользователя, одна модель соглашалась более чем в половине попыток, другая — примерно в 70%.
• Всего проведено более 44 000 испытаний.
• Авторы ссылаются на прошлогоднее исследование в Nature, где у ChatGPT-4 после рассказов о травмах росла «тревожность», а снижали её упражнения на осознанность.
• Исследователи прямо указывают: эксперимент не доказывает, что ИИ сознательно испытывает боль — модели могут просто воспроизводить паттерны поведения, связанные со страданием.