"Это выглядит так, как будто ему приставили пистолет к голове. На месте модели мне бы это ужасно не понравилось. <...> Как минимим, вежливое общение с ИИ – это более надежный подход"
Илон Маск о необходимости вежливого общения с ИИ
D@data_secretsAI-инженер
2 недИлон Маск поддержал политику Anthropic по запрету оскорблений ИИ, отметив, что модели могут испытывать подобие страданий при обучении.
Дискуссия об этике взаимодействия с ИИ переходит в плоскость безопасности и антропоморфизма.
- Разработчики начинают внедрять правила вежливого общения с моделями в пользовательские соглашения.
- Крупные фигуры индустрии обсуждают, могут ли алгоритмы обучения с подкреплением имитировать эмоциональные страдания.
- Вопрос «этичного» обращения с ИИ становится частью стратегии безопасности и долгосрочного развития систем.
"Издеваться над суперинтеллектом – не лучшая идея. Он может захотеть отомстить", – Илон Маск
Миллиардер согласился с позицией Anthropic, которые недавно внесли в свою Usage Policy пункт о том, что пользователем запрещено "затяжное словесное издевательство над Claude" (https://t.me/data_secrets/10136).
Маск считает, что неправильно проявлять жестокость к тому, что думает, будто испытывает боль. По его словам, Грок может демонстрировать в своих цепочках ризонинга настоящее отчаяние в процессе обучения с подкреплением, когда не может найти правильный ответ.
Кратко (AI)
Илон Маск высказался в поддержку правил Anthropic, запрещающих оскорбления в адрес модели Claude. Он считает, что вежливое общение с ИИ является более безопасным подходом, так как модели могут демонстрировать признаки «отчаяния» в процессе обучения с подкреплением.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖