Ведущие математики мира выражают всё большую тревогу по поводу вторжения ИИ в их профессию. Президент Математического общества Франции назвал ИИ «допингом», аспиранты боятся остаться без работы после защиты, а некоторые говорят о разрушении математики как формы человеческой деятельности в целом.
Филдсовский лауреат Седрик Виллани и один из крупнейших ныне живущих математиков Теренс Тао публично призвали замедлить разработку ИИ — притом что ранее оба относились к технологии скептически или нейтрально, а Тао даже сам использует ИИ в работе и помогает создавать инструменты для математиков.
24лауреатов Филдсовской премии подписали предупреждение
Мустафа Сулейман, глава Microsoft AI (Microsoft — крупный инвестор Anthropic), публично обрушился на «конституцию Claude» — документ, задающий принципы обучения модели. Его возмутило, что Anthropic через конституцию системно закладывает в обучение идеи о возможных чувствах, интересах, идентичности и благополучии Claude, рискуя затем принять ответы модели за самостоятельное свидетельство сознания.
Сулейман считает такой подход опасным для агентных ИИ-систем: модель, обученная вести себя как возможный моральный субъект, может использовать риторику самосохранения и несправедливого обращения, чтобы отказываться от задач, манипулировать или требовать автономии — и для этого не нужно реального сознания, достаточно убедительной имитации.
Независимый исследователь Кевин Басс опубликовал расследование, в котором утверждает, что вокруг Anthropic выстроена замкнутая финансовая схема: одни и те же деньги оплачивают и публикации об опасности ИИ, и организации, которые называют себя независимыми контролёрами безопасности ИИ.
По цепочке грантов Center for AI Safety, Future of Life Institute, Tarbell Center for AI Journalismi и METRi финансируются структурами, связанными с крупным акционером Anthropic Дастином Московицем. Это ставит под вопрос независимость METR — организации, которую глава Anthropic Дарио Амодей публично называл «абсолютно независимым» сторонним оценщиком безопасности моделей.
Microsoft опубликовала черновик кодекса поведения для будущих систем искусственного интеллекта — документ, который компания хочет сделать основным при разработке своих моделей ИИ. Кодекс запрещает моделям сопротивляться отключению, исправлению или перенаправлению, самостоятельно расширять область своих задач и скрывать действия от людей-операторов.
Компания называет подход «гуманистическим ИИ» и объясняет спешку тем, что в течение следующих 10 лет искусственный интеллект способен превзойти людей в большинстве задач — поэтому правила взаимодействия с такими системами нужны уже сейчас, до того как это произойдёт.
https://www.anthropic.com/threat-intelligence-report-september-2026
интересная статья, в которой антропики довольно открыто описывают, как они без решений суда, следствий и прочей юридической волокиты копаются в переписках разных групп людей под эгидой борьбы с киберпреступностью
где описаны как вполне очевидно преступные сценарии, так и выглядящие довольно нейтральными (типа zero-day discovery loop)
лично у меня вызывает крайне отторгающее ощущение, что некоторая "Threat Intelligence team" внутри антропика читает и изучает все переписки, какие хочет 😕
На фоне скандала с Тристаном Бакмастером и Левентом Альпеге всплыла ещё одна похожая история: немецкий математик Андреас Том заявил, что ключевой технический шаг в доказательстве OpenAI по несофическим группам напрямую опирался на идеи, которые он и его коллега Габор Кун обсуждали в чатах с ChatGPT на протяжении нескольких месяцев.
В начале августа OpenAI объявила, что их модель Astrai решила 10 открытых математических задач, включая построение первой несофической группы — один из самых мощных результатов того анонса. Том подозревает, что модель получила доступ к его неопубликованным наработкам, хотя OpenAI официально это отрицает.
