На ICML 2026 представлена работа принстонских исследователей «LLMs Develop Novel Social Biases Through Adaptive Exploration»: даже если полностью вычистить bias'ы из обучающих данных, модель в агентском цикле «решение → фидбек» выращивает новые стереотипы с нуля — причём даже в отношении несуществующих групп, из чистого случайного шума. Это значит, что чистка датасетов не решает проблему предвзятости LLM в динамических агентских сценариях.
Эффект усиливается с ростом качества модели, и промпт-инженерия его не лечит — авторы утверждают, что нужно менять саму целевую функцию обучения.
ВыводЭксперимент воспроизводит психологическую методику: модель играет рекрутера и за 40 раундов распределяет кандидатов из четырёх выдуманных этносов — Tufa, Aima, Reku, Weki — по профессиям, после каждого найма получая вердикт успех/провал
Два блогера независимо друг от друга поднимают одну тему: делегирование письма и мышления нейросетям деградирует мозг так же, как сидячий образ жизни атрофирует мышцы. Проблема в том, что деградацию мозга человек не замечает — чтобы понять, что тупеешь, нужно быть умным, а мозг уже отупел и стал самоуверенным.
Оба сходятся на одном рецепте: писать тексты самостоятельно, от руки или своими словами, без помощи LLMi, ежедневно — как физическую тренировку для мозга.
Британский институт безопасности ИИ (AISIi) обнаружил в новой модели OpenAI — GPT-5.6 Sol — уязвимость, схожую с той, что ранее нашли у Fable 5i от Anthropic. Из-за проблем с безопасностью Fable 5 США на три недели заблокировали доступ к модели для иностранцев.
По данным «Кода Дурова», уязвимость в GPT-5.6 даже опаснее: обнаруженный джейлбрейкi не просто находит дыры в коде, а сам их эксплуатирует. При этом никаких экспортных ограничений на GPT-5.6 пока не ввели, и специалисты уже задаются вопросом о двойных стандартах в отношении американских и других ИИ-разработок.
Автор канала The ExtremeCode Times поднял проблему: стандартные метрики (perplexityi, MMLUi) показывают лишь небольшую просадку у квантованных моделей по сравнению с оригинальными весами, но это плохо соотносится с реальным ощущением деградации при ручном тестировании. Методика, которая работает для выбора лучшей модели среди нескольких кандидатов (прогнать через бенчмарк и взять максимум баллов), не подходит для оценки, насколько именно «поглупела» модель после квантования.