Анализ инвестиций в ИИ: риски и прогнозы до 2050 года






Компания Anthropic, готовясь к IPOi, включила в проспект эмиссииi предупреждение о том, что развитие передовых ИИ-систем может нести «катастрофические или экзистенциальные риски для человечества». Документ, с которым ознакомилось Reuters, оказался необычен тем, что описанию угроз в нём уделено значительно больше внимания, чем самому бизнесу компании.
Это первый случай, когда компания-разработчик передового ИИ столь подробно раскрывает перед инвесторами риски технологии, на которой строится её собственная коммерция — что ставит инвесторов перед нетипичной задачей оценки бизнеса, способного занять триллионный рынок, но и теоретически угрожать человечеству.
Подкаст The Skip собрал трёх рекрутеров, которые нанимают продуктовых руководителей для топовых компаний Долины: по их наблюдениям, маятник найма качнулся обратно. Год назад считалось, что менеджеры не нужны и всем надо быть хэндс-он исполнителями — фаундеры отдавали продукт сильным ICi без управленческого опыта. Теперь выясняется, что такие люди упираются в потолок: не могут собрать сильную команду, не спорят с фаундером и просто выполняют заказы.
В параллель вышло интервью Lenny с Nikhyl Singhal (основатель сообщества The Skip, в прошлом продуктовый лидер Meta, Google и Credit Karma), которое объясняет контекст: GenAI меняет саму работу продакта — из «передатчика информации» между командами он снова становится «создателем», тратящим время на решения и оценку влияния, а не на координацию. На рынке рекордное число вакансий в продукте, но найти работу стало заметно сложнее — нужны не «information moveris», а «builders».
Anthropic добавила в Claude Codei (и в CLI, и в desktop-приложении) экспериментальный встроенный плагин You Should Knowi. Пока основной агент Claude выполняет задачу, параллельно работает второй агент-наблюдатель, который перечитывает всё сделанное и ищет критически важные вещи, которые пользователь или сам Claude могли пропустить мимоходом.
Если такая деталь находится, плагин выводит её отдельной строкой «Heads upi» рядом с чатом, не трогая код и не мешая основной работе. Порог срабатывания специально сделан высоким, чтобы плагин не отвлекал по мелочам и молчал, если ничего важного не произошло.


В OpenAI продолжается кадровый отток среди специалистов, отвечавших за безопасность ИИ-моделей. По данным NYTi, сотрудники компании предупреждали руководство о проблемах с безопасностью ещё до инцидента с Hugging Facei, но никаких мер не последовало — руководство лишь потребовало проводить тесты «как можно быстрее», чтобы не задерживать выпуск новых моделей.
На прошлой неделе компанию покинул Дэвид Робинсон (David Robinson), возглавлявший в OpenAI команду Safety Systemsi, — он сомневался, что компания успевает контролировать собственный ИИ. Это произошло на фоне увольнения трёх других сотрудников OpenAI за передачу секретных сведений сторонним компаниям, что в совокупности усиливает тревогу вокруг подхода компании к безопасности.
DeepSeek представила публичную превью-версию Harnessi — десктопного инструмента для автономных ИИ-агентов на Windows и macOS. Агент существует с августа, но теперь вышел в открытый доступ по всему миру и позиционируется как опенсорсная альтернатива Claude Code и Codex от Anthropic/OpenAI.
Harness автоматизирует написание и тестирование кода, работу с файлами, терминалом, документами и таблицами, а также длительные многошаговые задачи. Ключевая особенность архитектуры — принцип «всё является плагином»: любой элемент, от отдельного инструмента до компонентов интерфейса, можно заменить или создать заново, в отличие от монолитных конкурентов вроде Hermes, OpenClaw или LM Bionic.