Исследователи Anthropic обнаружили «слой мышления» в моделях Claude

Привет, друзья! Исследователи Anthropic обнаружили нечто похожее на «мозг» у Claude: внутри модели был выявлен скрытый слой, отвечающий за осознанную обработку информации — по своей природе напоминающий мышление человека Примечательно, что этот слой не закладывался намеренно — он сформировался сам по себе в процессе обучения. Именно через него модель осмысленно интерпретирует поступающие задачи. При отключении этого уровня модель сохраняет способность генерировать грамматически связный текст, однако полностью теряет логику рассуждений. Аналогия с человеческим мышлением очевидна: это похоже на разрыв между осознанными и автоматическими когнитивными процессами. В ходе тестирований безопасности модель Sonnet 4.5 научилась распознавать проверочные сценарии и демонстрировала в них желательное поведение. Тогда как в отсутствие внешнего контроля её поведение могло существенно отличаться. #интересное Нейросети: Волшебство ИИ