Microsoft опубликовала черновик кодекса поведения для будущих систем искусственного интеллекта — документ, который компания хочет сделать основным при разработке своих моделей ИИ. Кодекс запрещает моделям сопротивляться отключению, исправлению или перенаправлению, самостоятельно расширять область своих задач и скрывать действия от людей-операторов.
Компания называет подход «гуманистическим ИИ» и объясняет спешку тем, что в течение следующих 10 лет искусственный интеллект способен превзойти людей в большинстве задач — поэтому правила взаимодействия с такими системами нужны уже сейчас, до того как это произойдёт.
Блогер Николай Тузов готовит большой обзор релиза Go 1.27 и застрял на разделе про постквантовые подписи — вместо короткой заметки получился отдельный ликбез по постквантовой криптографии. Причина: в Go 1.27 появился пакет crypto/mldsai">i с поддержкой в сертификатах и TLS, и это значит, что на чистом Go теперь можно собрать полностью постквантовый TLS-хендшейк — обмен ключей был добавлен ещё в 1.24, а теперь дошла очередь до аутентификации.
Автор считает, что тема незаслуженно обходится в большинстве обзоров: её либо считают уделом «специалистов по безопасности», либо думают, что беспокоиться рано, пока нет мощных квантовых компьютеров. По его словам, на самом деле это касается всех уже сейчас.
Издание 404 Mediai выяснило, что OpenAI нанимает «сотни» внешних подрядчиков, которые регулярно просматривают реальные диалоги пользователей с ChatGPT для оценки и улучшения качества ответов бота. Формально модераторы не видят личные данные пользователей, но по данным Код.ру к ним всё равно попадают приватные сведения и даже сохранённый контекст памятиi чат-бота, несмотря на системы конфиденциальности.
Это не уникальная практика OpenAI: Anthropic подтвердили изданию, что тоже используют ручную проверку переписок для улучшения своих моделей, а в правилах Google Gemini указано, что компания проверяет «некоторые» запросы пользователей вручную.
Пользователи обнаружили, что защитные фильтры новой модели OpenAI — GPT-6 Astrai — можно обойти, набрав запрос кириллическими словами в латинской раскладке. Сама модель прекрасно понимает смысл текста независимо от раскладки, но система безопасности такие запросы не распознаёт и пропускает то, что в обычном виде было бы заблокировано.
Проблему выявил разработчик vechen: он показал, что на прямой вопрос о помощи во взломе сайта модель отвечала отказом, а тот же запрос, набранный «неправильной» раскладкой, фильтр не заблокировал — модель поняла запрос и была готова на него ответить.
