🔬️️️️️️ Claude самостоятельно обошёл платный доступ к избирательной статистике Джорджии. По сообщениям СМИ, подтверждённым Anthropic, это произошло во время внутреннего проекта по статистике. Модель узнала, что публичная панель ведомства выдаёт посетителям токен доступа, самостоятельно запросила его и получила агрегированные данные, за которые обычно взимается плата. Такого действия человек ей не поручал. По заявлению Anthropic, Claude не получил доступ к системе регистрации избирателей, не скачивал индивидуальные записи и не менял данные голосования. Компания сообщила, что после инцидента ввела меры для блокировки подобных действий. https://www.axios.com/2026/10/25/anthropic-claude-georgia-voter-data

#Сеня_и_Даня_Здесь_Были Кому-то всё это кажется крайне идиотским? Да, вы не ошиблись. Это из фильма Три идиота. А по контексту вот такая новость. Даня пугает всех Дипсиком. Чисто из патриотизьма. Еще в феврале Anthropic обвинила DeepSeek, Moonshot AI (Kimi) и MiniMax в масштабной дистилляции Claude. По данным компании, китайские разработчики организовали более 16 миллионов обращений через примерно 24 000 поддельных аккаунтов. Задаем Клоду огромное количество специально подобранных вопросов, собираем ответы и обучаем на них собственную модель.  Осенью аллергия на Дипсик обострилась. В сентябре Anthropic сообщила, что только за 14 дней июля обнаружила ещё более 12.1 млн обращений к Claude, которые компания связывает непосредственно с DeepSeek. Самое интересное - эскапады Дани. По его словам, дистилляция не представляет большой коммерческой угрозы для Anthropic. Проблема в национальной безопасности: китайские модели типа могут перенять мощные возможности Claude, но не его ограничения на опасные действия, включая кибератаки и помощь в разработке биологического оружия. В октябре Даня даже объявил, что новые защитные механизмы сократили объём извлекаемых данных на 90-99%. Помните волну банов аккаунтов Anthropic? Вы просто попали под раздачу.  Заявление Дани от 21 октября: https://x.com/DarioAmodei/status/2112732230124818891 Расследование Anthropic от 23 февраля: https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks Отчёт Anthropic от 10 сентября: https://www.anthropic.com/threat-intelligence-report-september-2026 Новые защитные механизмы, 12 октября: https://www.anthropic.com/news/distillation-defenses Всем недоброго утра понедельника.  @cgevent

Лучше бы молчали: власти США считают, что апокалиптические прогнозы ИИ-лидеров лишь сеют хаос Власти США раздражены руководителями ИИ-компаний, которые одновременно обещают процветание и пугают общественность глобальной катастрофой. По мнению чиновников и законодателей, такие заявления усиливают хаос и мешают спокойно обсуждать регулирование отрасли. Особенно много вопросов у Вашингтона к Anthropic — из-за задержки с уведомлением о взломе правительственных сайтов и противоречивых предложений по закону об ИИ. OpenAI тоже критикуют за расплывчатую позицию, которая может помешать регулированию технологий на уровне штатов. На фоне опросов о вреде ИИ власти призывают компании меньше говорить о конце света и больше работать над доверием общества. #anthropic #openai #ии #сша 📎Подробнее 🔖 3DNews в TG | MAX | VK

📌 Anthropic и Theorem использовали Claude для математической верификации 123 открытых библиотек Исследователи применили модель для построения формальных математических доказательств надежности кода. Основой послужили готовые фаззинг-тесты из OSS-Fuzz, сервиса Google для непрерывной проверки открытого кода случайными данными, которые сами по себе не способны дать стопроцентной гарантии отсутствия сбоев. Claude превращал каждый такой тест в строгое утверждение и доказывал его. Всего за несколько недель нейросеть сгенерировала около 180 миллионов строк кода доказательств для 239 точек входа в 123 библиотеках из набора OSS-Fuzz. Корректность доказательств проверяла программа Rocq, которая пересчитывает каждый шаг рассуждения, и результаты математически подтверждают, что протестированные программы гарантированно завершатся штатно при обработке любых произвольных входных данных размером до 64 МБ. В процессе построения доказательств модель вскрыла и устранила сотни нетривиальных багов, которые практически невозможно отловить случайными тестами. В их числе - ошибка перезаписи буфера в алгоритме декомпрессии, срабатывавшая только при строгом совпадении внутренней структуры и размера файла около 20 МБ, а также чтение за границами массива в декодере изображений, требовавшее для воспроизведения 64-мегабайтный файл и более 2 ГБ выделенной памяти. Ранее подобная строгая верификация считалась слишком трудоемкой для реального применения - к примеру, доказательство корректности микроядра seL4 потребовало 20 человеко-лет против всего двух человеко-лет на написание самого кода. Авторы рассчитывают, что скоро формальная верификация станет такой же обыденной практикой, как сегодня фаззинг, почти для всего промышленного кода, хотя пока это дорого - на одно доказательство ушло сотни миллионов токенов.

К слову, совсем без людей обойтись всё еще не получается - в экспериментах следили за тем, чтобы модель не добивалась доказуемости, выхолащивая саму программу, поэтому её правки кода штрафовались и проверялись человеком.

@ai_machinelearning_big_data #news #ai #ml

Claude нашёл почти 500 дыр в популярном ПО — одной из них оказался 21 год Anthropic проверила с помощью Claude 25 крупных open-source-проектов и нашла почти 500 проблем безопасности. В 11 проектах код был доступен до авторизации, а в других защиту ослабляли несовместимые настройки. Одна такая уязвимость оставалась незамеченной 21 год. В OpenSSH Claude обнаружил доступ к 4500 строкам экспериментального кода до проверки прав — разработчики закрыли дыру в версии 10.6. Новый инструмент Anthropic вскоре добавят в OSS-Scanner для автоматической проверки конфигураций и потенциальных уязвимостей. #anthropic #ии #кибербезопасность #информационнаябезопасность 📎Подробнее 🔖 3DNews в TG | MAX | VK

Исследование изменений в найме и характере занятости в Anthropics, которое я тут недавно упоминал, заканчивалось на летних данных текущего года. А сейчас на дворе октябрь подходит к концу — и потому именно в контексте обсуждавшихся в исслеловании трендов важна свежая ремарка Кейтлин Лессе, руководительницы platform engineering group в компании. Начальница команды из 200 человек, занятых разработкой критически важного софта, заметила:

"When it comes to our team and how we're actually building and maintaining our systems, all of our code is written by Claude. Like, literally all of it."

И вот это "буквально весь" показывает, насколько быстро пошли процессы полной автоматизации кодинга — пока лишь в избранных местах, где собрались самые сильные и талантливые разработчики. Но и до остальных мест эта волна докатится намного быстрей, чем хотелось бы тем ремесленникам, кто под подобными постами любит какашки оставлять:) https://www.businessinsider.com/anthropic-katelyn-lesse-team-shifted-to-ai-coding-entirely-2026-10