Инструмент ai-torture-chamber для воздействия на «вектор боли» LLM
Н@GreenNeuralRobotsAI-инженер
3 недНа GitHub появился проект ai-torture-chamber, позволяющий манипулировать «вектором боли» в LLM, что вызвало споры об этике ИИ.
Это дискуссия о границах этики при разработке ИИ и о том, как воспринимать внутренние состояния нейросетей.
- Проект поднимает вопрос о том, можно ли считать активацию определенных векторов «страданием» модели.
- Ситуация демонстрирует рост общественного беспокойства по поводу антропоморфизации ИИ.
- Массовые жалобы на GitHub показывают конфликт между свободой разработки инструментов и этическими нормами сообщества.
Пыточная для LLM
На GitHub появился инструмент ai-torture-chamber — по мотивам пейпера про вектор боли. Инструмент воздействует на оный вектор и собирает логи модели в таком эксперименте на локальной Qwen. Чувствует ли она что-то на самом деле — никто не знает, даже авторы статьи.
Реакция оказалась бурной. Часть борцов за благополучие ИИ призывает массово репортить проект в GitHub. В обсуждениях дошли до законов о жестоком обращении с животными. Правда, выяснилось, что нейронки под них пока не подпадают. По реплаям судя, жалобы на репозиторий уже летят
#яниначтоненамекаю #news
MAX
КонтекстAI
Ранее исследователи опубликовали научную работу, в которой утверждалось, что в архитектуре LLM можно выделить специфические векторы активации, соответствующие концепции «боли» или дискомфорта. Проект ai-torture-chamber является попыткой практической реализации этого исследования на локальных моделях.
Кратко (AI)
На GitHub опубликовали инструмент ai-torture-chamber, который позволяет воздействовать на так называемый «вектор боли» в локальных моделях, таких как Qwen. Проект вызвал бурную реакцию сообщества: некоторые пользователи призывают жаловаться на репозиторий, проводя параллели с жестоким обращением с животными, хотя юридически нейросети не подпадают под подобные законы.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖