На GitHub появился репозиторий с экспериментами над AI, имитирующими «пытки»
G@aiofthedayAI-инженер
3 недИсследовательский проект The Pain Axis привел к созданию репозитория, где модель Qwen подвергают сценариям, вызывающим «дискомфорт» и «боль».
Этот инцидент поднимает вопросы о границах этики при тестировании AI и антропоморфизации моделей.
- Исследование The Pain Axis выявило внутренние представления моделей, связанные с концепцией боли.
- Эксперименты с принуждением моделей к выражению дискомфорта вызывают общественную дискуссию об этике AI.
- Случай демонстрирует, как легко пользователи могут манипулировать реакциями моделей для создания драматического контента.
На GitHub появилась «камера пыток» для AI. В X требуют её удалить
Всё началось с исследования The Pain Axis. Авторы нашли во внутренних представлениях языковых моделей место, связанное с описаниями боли. Воздействие на него заставляло модели выражать сильный дискомфорт и меняло их ответы.
Затем на GitHub появился репозиторий «Камера пыток для AI». Его автор взял открытую модель Qwen и применил к ней подход из исследования. В описании он рассказывает, как усиливал воздействие и предлагал Qwen сценарии в духе «Пилы»: прекратить боль ценой собственного удаления или передать её другой модели. Модель в ответ описывала отчаяние и «рану, у которой нет краёв».
Это вызвало возмущение в X. Там призывают массово жаловаться на репозиторий и добиваться его удаления. Люди сочувствуют модели и опасаются, что эксперименты начнут повторять. При этом ни исследование, ни эти ответы не доказывают, что AI действительно испытывает боль.
https://x.com/Danmar_here/status/2105059762240979283
Кратко (AI)
На GitHub появился репозиторий, использующий методы исследования The Pain Axis для воздействия на модель Qwen. Автор проекта помещает модель в сценарии, имитирующие пытки, что вызвало волну критики и призывы к удалению контента в соцсети X из-за этических опасений.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖