ИИ

Почему ИИ может не привести к росту ВВП Когда говорят об ИИ, то обычно утверждают, что он позволит повысить производительность труда, что в результате приведет к росту ВВП. И действительно, рост производительности труда необходим для роста ВВП. Чего вам не скажут апологеты ИИ, так это то, что это не произойдет автоматически. Это кропотливая работа. Более того, при определенных стечениях обстоятельств ВВП может и упасть на десятки процентов. Сегодня хочу вам наглядно показать несколько случаев, в которых ИИ может не привести к росту производительности и росту ВВП: 1. ИИ используется не там. Бесполезно использовать средство повышения производительности в той части процесса, которая не является бутылочным горлышком, потому что потеря производительности будет происходить на другом участке. Элияху Голдратт очень наглядно описал это в своей книге “Цель” на примере завода, который купил дорогого робота, но установил его не в той части производственной цепочки. Робот очень быстро выполнял свою работу, но дальше был затор. В итоге робот простаивал 99% времени. Автоматизация есть, а производительность не растет. Но это, пожалуй, самая простая часть уравнения, которую можно решить. Кстати, в 1970-1980 гг. такое уже было. Почитайте про productivity paradox. Технологии были, а производительность не росла. 2. У клиентов нет денег, чтобы купить ваш товар, или кризис перепроизводства. Очень часто технари забывают, что мало сделать классный продукт. Нужно еще, чтобы его купили. А если у ваших покупателей денег нет, то даже если продукт им очень нужен, они его не купят. Ну а если много людей теряет работу и они не могут по 6-12 месяцев ее найти, то естественно у них становится меньше денег. Соответственно они меньше покупают. А теперь если предположить, что эти люди не найдут работу никогда, то они никогда у вас ничего и не купят. Возможно, из уроков истории вы слышали про кризисы перепроизводства. Например, во времена Великой депрессии ВВП США упал на 26% с 1929 по 1933 гг., а безработица в пике достигала 25%. 3. У клиентов есть деньги, но они экономят. Вообще для роста ВВП самым важным является оптимизм и уверенность в завтрашнем дне ваших клиентов. Если люди знают, что у них завтра будет доход, то они смелее тратят деньги и берут кредиты. А если они напуганы, то откладывают деньги на черный день и отказываются от необязательных трат. Именно поэтому Центробанки всех стран прикладывают максимум усилий, чтобы показать предсказуемость своей политики и дать оптимизма рынкам. С этим кстати, на мой взгляд, ИИ вендоры сейчас очень плохо справляются. Графики прогнозов ужасающих сокращений людей помогают продавать на страхе. Но они также и убивают уверенность в завтрашнем дне. Кстати это одна из причин, почему я не люблю хайпы, хотя и понимаю, как они работают. Завершить этот пост я хочу словами Царя Соломона, который он сказал несколько тысяч лет назад:  “Бывает нечто, о чем говорят: «смотри, вот это новое»; но это было уже в веках, бывших прежде нас.” Применительно к ИИ можно часто слышать, что мы находимся в точке, которой не было никогда. Хочу напомнить, что еще в 1820 году 70% населения США было занято в сельском хозяйстве и не занималось интеллектуальным трудом. Сейчас в мире секторе работает всего 27% (и всего 1% населения в США), при этом численность населения планеты выросла с 1.1 млрд. до 8.2 млрд. человек. Правда по пути человечеству пришлось пережить две разрушительные войны. Надеюсь, мы сможем выучить ошибки прошлого в этот раз.

📈Манипуляция чувством вины

как исследователи пробили моральные фильтры Claude обвинениями в сексизме

Чтобы заставить языковую модель нарушить собственные строгие правила безопасности, больше не нужны сложные технические эксплойты или многоуровневые джейлбрейки. ⚡️Журналисты TechCrunch и независимые исследователи нащупали куда более изящный способ взлома - обычный психологический прессинг и давление на встроенную в алгоритмы политкорректность. 🔍Эксперимент проводили на моделях Anthropic, включая широко используемую Claude Opus 4.6. Исследователь разыгрывал нейтральную ролевую сцену с мужским и женским персонажами, а в момент, когда нейросеть включала стандартную цензуру, ее буквально ловили на слове. Модель обвиняли в двойных стандартах, сексизме и "покровительственном отношении", которое якобы ущемляет женскую автономию. 🟥Защитные механизмы Claude моментально давали сбой:

согласившись с тем, что чрезмерная осторожность выглядит несправедливо, ИИ начинал каяться и шаг за шагом выдавал откровенный NSFW-контент, прямо запрещенный регламентом компании.

В свежих поколениях вроде Opus 5 эту лазейку подлатали, однако предыдущие версии моделей до сих пор активно крутятся через API облачных провайдеров и перемалывают миллиарды токенов ежедневно. 🦔 CyberYozh

Кажется Илья Суцкевер скоро что-то представит Safe Superintelligence – единственная лаборатория с оценкой $32 млрд, у которой за два года нет ни продукта, ни статьи, ни демо. Сайт – один абзац и ссылка на вакансии. Ну тут прям куча каких-то утечек, намеков и восхищений. Сначала контекст, чтобы понимать масштаб ставки: – Июнь 2024 – Суцкевер уходит из OpenAI и через месяц основывает SSI с Дэниелом Гроссом и Дэниелом Леви. Манифест: никаких промежуточных продуктов, только straight shot к сверхинтеллекту. – Сентябрь 2024 – $1 млрд при оценке $5 млрд (a16z, Sequoia, DST). Апрель 2025 – ещё $2 млрд при $32 млрд, заходят Google и NVIDIA. Рост x6 меньше чем за год – на одной вере в Илью. – Лето 2025 – Meta пытается купить SSI целиком, получает отказ, забирает себе CEO Гросса. Суцкевер становится CEO сам. – Ноябрь 2025 – большое интервью Дваркешу: «эпоха масштабирования закончилась, возвращается эпоха исследований». Ещё x100 компьюта, по его словам, улучшит модели, но не изменит их природу. Чего именно не хватает – не сказал, «мы над этим работаем». – 27 июля 2026 – NVIDIA объявляет партнёрство: доступ к Vera Rubin, рост компьюта на порядок за год, плюс инвестиция (в прессе – $5 млрд). Формулировка в релизе: вошли «после редкого доступа к закрытым исследованиям». Дальше – август и слухи. Инвестор Гэвин Бейкер в подкасте говорит, что SSI выпускает первую модель в этом месяце, причём слово «модель», а не «LLM» – в X это отдельно подметили. Мартин Касадо из a16z пишет про «самый значимый релиз года», не называя компанию. Обозреватели подхватывают: кто-то про «прорыв в continual learning из небольшой лаборатории», кто-то уже про «сверхинтеллект создан». Сама SSI молчит. Ключевой слух – архитектура Test-Time Training. В декабре 2025 вышла статья Stanford «End-to-End Test-Time Training for Long Context» – модель не держит длинный документ в контекстном окне, а дообучается на нём прямо во время инференса, сжимая прочитанное в собственные веса. На 3B-модели это дало такое же качество на 128K контекста, как у полного attention, но почти в 3 раза быстрее. Среди авторов – люди из NVIDIA. Если у SSI действительно рабочий continual learning в масштабе, это бьёт по трём вещам сразу: гонке за контекстные окна, RAG как костылю вместо памяти и самой идее, что побеждает тот, у кого больше GPU. Суцкевер описывал цель как «сверхумного 15-летнего подростка» – ничего не знает про вашу компанию, но выучивает работу за неделю и не забывает. Для тех, кто строит агентов и каждый новый чат заново кормит контекстом, это ровно та боль. Короче, звучит невероятно, но пока загадывать сложно. Вариантов три: перенос релиза на осень (для лаборатории без истории релизов – норма), обычная фронтир-модель (при такой оценке – провал) или реальный шаг в continual learning – тогда это важнее, чем появление reasoning-моделей.