ИИ

Собираем домашний сервер для LLM дешевле RTX 3090: NVIDIA Tesla V100 SXM2 в 2026 году NVIDIA Tesla V100 SXM2 когда-то работала в дата-центрах и суперкомпьютерах, а теперь списанные модули оседают на маркетплейсах по $100-150 за штуку. Архитектура Volta образца 2017 года, в играх примерно уровень Radeon 6800XT, ни трассировки, ни Frame Generation. Казалось бы, музейный экспонат. Вот только в локальном запуске языковых моделей такая карта остаётся на уровне RTX 3090Ti. Четыре V100 по 32 ГБ собираются в 128 ГБ видеопамяти примерно за $2700, тогда как сборка на четырёх RTX 3090 переваливает за $6700. На бумаге всё выглядит слишком хорошо, и именно поэтому стоит знать про деталь, которая способна остудить энтузиазм ещё до заказа переходников.

Jev, про который говорят на каждом углу - это может и не революция технически, но чертовски сильная штука с точки зрения продукта. Да, под капотом там явно что-то более приличное, чем голый BERT в zero-shot, классические MNLI-пайплайны или открытые альтернативы вроде SemIf (бывший OpenJev), Laya на ModernBERT или Bespoke-Nimble. Но главное не в этом: чуваки идеально высекли подзадачу и завернули ее в человеческий API. И случился занятный психологический эффект: сам факт релиза заставил людей - включая меня - проводить ревизию своих пайплайнов с мыслью: «А что я у себя прямо сейчас могу пересадить на такую быструю и дешевую штуку?». Иронично, что если сесть и трезво посчитать, современные flash-модели не сильно отличаются от Jev: по деньгам это копейки и там, и там, разница в latency невелика, качество одного порядка. Упаковка тащит. Я успел немного погонять Jev на живой задаче: размечать тул-коллы в траекториях кодинг агентов на тему безопасности. Собрал сотню вызовов, четыре подзадачи на каждый, натравил Jev, Sonnet 5 и открытые модельки, с панелью LLM-as-a-judge для оценки: 1. Привет из классического ML: majority константа все еще сильный бейзлайн. В реальных сессиях 4 из 5 вызовов тулов - это унылая рутина вроде cargo test или git status. Базовый мажоритарный класс забирает почти 80%. Не каждый LM классификатор так осилил! 2. Как всегда, не все ошибки одинаково полезны вредны. У Sonnet 5 роскошные 90%+ общей точности (~80% у Jev), но на редких реально опасных вызовах Recall 4 из 9 (у Jev 7 из 9). 3. Из коробки открытые альтернативы не очень. В zero shot режиме мелкие открытые декодеры сколлапсировали в ноль. Делаем банальный циклический сдвиг вариантов ответа (A/B/C -> B/C/A): Qwen 0.6B в 100% случаев выбирает A, MiniCPM в 100% случаев жмет последний вариант. С few shot получше, но encoder-based модели я не смог довести до уровня той же константы. 4. Калибровка удивительно хороша. Если фильтровать предсказания Jev с конфиденсом >= 0.7, он не ошибся ни разу. У самодельных реранкеров и дешевых моделек софтмакс получился размазан тонким слоем (разница между топ-1 и топ-2 часто в районе 0.05). 5. Jev - это все еще LM. Не надо слишком надеяться на детерминизм и отсутствие positional bias. На моем датасете шумело на ~2-3% между прогонами и позициями. В общем, отличный пинок вспомнить, что не на каждую кнопку нужно доставать Astra и Fable. Кстати, на все развлечения в API Jev я потратил бешеные $0.37. See also: мнение Ильи про Jev.

Нейросети создали у бывших ссм-щиц, которые бывшие маникюрщицы, что можно ничего не знать и рубить бабло. Открыла Seedance, вбила «красивая девушка идёт по пляжу, кинематографично, 4K», получила пять секунд картинки. Всё, теперь она AI-продакшн. Прайс от 15 тысяч за ролик, в шапке профиля «AI-режиссер», в сторис кейсы, где все красиво и ничего не происходит. Но есть одна проблема. Оживить картинку промтом — это 10% работы. Может, меньше. Это последняя кнопка в длинной цепочке, которую вы даже не видите, потому что никогда ее не проходили. До этой кнопки есть идея. Не «сделаем красиво», а мысль, которая решает задачу бренда и цепляет человека за три секунды, пока он не пролистал. Есть сценарий, где у каждой секунды есть функция. Есть драматургия: завязка, конфликт, поворот, развязка — да, даже в пятнадцатисекундном ролике. Есть раскадровка, где продумано, какой план за каким идёт и почему. Есть монтажная логика, ритм, крупности, направление взгляда, склейки. Есть свет, цвет, звук, музыка, саунд-дизайн. Есть непрерывность персонажа из шота в шот, а не новое лицо в каждом кадре. Есть брифинг с клиентом, правки, согласования, дедлайны и умение объяснить маркетологу, почему его пятая правка убивает ролик. Этому не учат на курсах за выходные: годы уходят на то, чтобы научиться слышать, что клиент на самом деле хочет, а не что он говорит, и держать проект, когда все летит к чертям за день до сдачи. Это опыт, набитый шишками на десятках проектов, и его не сгенерируешь никаким промтом. А потом — да, промт. Который, кстати, тоже пишется не словами «эпично и красиво», а языком камеры, блокинга и действия. Потому что нейросеть не знает, что такое хорошее кино. Это знаете (или не знаете) вы. Именно поэтому рынок завален роликами, которые выглядят как дорогая заставка и не продают ничего. Красивые кадры без истории — это обои. За обои бренды платить перестают очень быстро. Нейросеть — это камера. Очень крутая камера. Но камера никогда не делала из человека режиссера. Раньше купить RED было дорого, и это отсекало случайных людей. Сейчас «камера» стоит 30 долларов в месяц, и порог входа упал до нуля. Порог входа. Не порог качества. Инструмент доступен всем. Насмотренность, драматургия и понимание продакшна — нет. И вот за это клиенты в итоге и платят. Так что люди без знаний и умений — наслаждайтесь, пока можете. Дикий запад заканчивается, рынок уже трезвеет, и за борт вас выкинут без выходного пособия.

⚡️ StepFun анонсировала флагманскую модель Step 5 Preview Модель построена на архитектуре MoE и спроектирована как инструмент для длительных агентских задач, разработки ПО и сложной аналитики. На борту 600 млрд параметров (активных 27 млрд), контекстное окно 1 миллион токенов и поддержка мультимодальности. StepFun заверяет, что модель способна непрерывно выполнять автономные задачи на протяжении 24 часов, используя обратную связь для итераций и может выполнять весь спектр кодинг-задач - от создания веб-приложений до оптимизации GPU-ядер и работы с аппаратным обеспечением. Помимо кодинга, модель компетентна в финансовом и корпоративном анализе, где критически важна верификация фактов и формул: Step 5 умеет агрегировать массивы данных из сотен сетевых источников и формировать детализированные отчеты со строгой структурой. Модель уже можно протестировать на платформе StepFun, веса обещают открыть 15 октября. @ai_machinelearning_big_data #news #ai #ml

Я вам тут написал, что следующий выпуск дайджеста новостей фанфарно вернется на Хабр. Но реальность внесла свои коррективы: дайджеста нынче вообще не будет (в выходные чёт не до того было), в следующий раз будем обозревать новости сразу за две недели. Но держите хотя бы список интересных постов со второго канала: — Разоблачение Джейкоба Коксона (челика, громко уволившегося из Anthropic) — Положняк по выборам в Госдуму — Статья про новую политику OpenAI по раскрытию бедокурства ИИ (я пытаюсь зафорсить неологизм, да) — Жуховицкий про развод через доверительное управление на криптобирже BingX — Разоблачение взлома Hugging Face — Переводим книгу Missing Billionaires нейронками — Разбираемся, как так вышло, что я «внезапно» заинтересовался AI safety — Ретроспективно смотрим на то, насколько хорошо состарилась моя дискуссия с Иваном Ямщиковым 2023 года

Next-Token Myopia 🤔🤬😡 - сборник AI антипаттернов собираю и всякие деградации / галлюцинации . Можете скормить своим агентам и поделиться - было ли у вас такое или нет еще: Next-Token Myopia refers to a critical limitation in Autoregressive Large Language Models (LLMs), where the model’s training objective forces it to focus strictly on predicting the immediate next token instead of optimizing for long-range planning, coherence, or structural outcomes. While Next-Token Prediction (NTP) has powered massive breakthroughs in artificial intelligence, this "short-sightedness" prevents models from naturally executing complex reasoning tasks that require implicit planning

В статье Маттео Пасквинелли Machine, organism and language: a comparative epistemology of AI models искусственный интеллект рассматривается как исторический конвергентный результат трёх фундаментальных парадигм науки и гуманитарных дисциплин: машины, организма и языка. Пасквинелли утверждает, что ИИ — это не имитация биологического разума, но модель социального многообразия, автоматизирующая реляционные структуры человеческой кооперации, разделения труда и культуры. Пдф в комментах. Парадигма «Машина» (Механицизм): Механистическое мышление исторически сформировалось под влиянием процессов социальной абстракции, абстрактной формы стоимости и дисциплинирования труда. Концепция машины эволюционировала от обратимых аналитических механизмов раннего Нового времени (например, ткацкого станка) к продуктивным и трансформативным машинам индустриальной эпохи (например, паровому двигателю). Согласно «трудовой теории автоматизации» (А. Смит, Ч. Бэббидж, К. Маркс), архитектура машин и вычислительных устройств (включая Разностную машину Бэббиджа) воспроизводит и автоматизирует ранее сложившиеся схемы разделения физического и умственного труда. Парадигма «Организм» (Органицизм): Каноническое философское определение организма дал Иммануил Кант, описав живые существа как обладающие внутренней телеологией, где форма и цель совпадают, а части взаимообусловлены. Немецкая традиция (Naturphilosophie, гештальт-психология, концепция Umwelt Я. фон Икскюля и неврология К. Гольдштейна) рассматривала организм в диалектическом единстве с окружающей средой. Парадигма «Язык» (Структурализм): Лингвистика превратилась в научный объект в позднем Модерне, постепенно освободившись от биологических аналогий. Ф. де Соссюр концептуализировал язык как абстрактную систему бинарных оппозиций и различий без положительных терминов. Структурализм (К. Леви-Стросс, Р. Якобсон) сделал структуру языка универсальной гомологией для анализа любых социальных институтов, родства, мифологии и капиталистической экономики. Кибернетика (Н. Винер, У. Мак-Каллок, У. Питтс, Ф. Розенблатт) попыталась воплотить принципы организма (самоорганизацию, самоадаптацию и нейропластичность) в технических устройствах. Эта аналогия легла в основу создания искусственных нейронных сетей (перцептрона Розенблатта), ставших прототипом современного глубокого обучения. Самоорганизация в ИИ выступает не как символ биологической автономии, а как инструмент автономии и управленческого контроля над социальными связями. Телеграф сыграл роль исторического медиума, формализовав язык в дискретный математический код (биты) и связав концепции машины и языка. Клод Шеннон квантифицировал язык как статистический процесс (стохастический процесс измерения частоты токенов), игнорируя семантику ради эффективной передачи информации. Современные большие языковые модели (LLM, Transformer) представляют собой «неоструктурализм»: они измеряют смысловые значения как скалярное произведение / косинусное сходство в многомерных векторных пространствах. Пасквинелли пишет, что искусственный интеллект представляет собой машину, которая перенастраивает свои параметры (подобно организму) для моделирования языка и социальных артефактов. ИИ оперирует не изолированными фактами, а сетями отношений, зафиксированными в текстах, изображениях и иных данных, созданных человеческим трудом и знанием (общий интеллект\general intellect). Вслед за идеями Ф. Росси-Ланди и итальянского автономистского марксизма (К. Марацци, П. Вирно), язык рассматривается как форма живого труда и основа производственных процессов. Современные LLM становятся новой «сборочной линией», автоматизирующей производство смыслов и перераспределяющей экономическую стоимость.

Я много писал про то какие качества и навыки наиболее важны для взрослых в мире с ИИ. Я убежден, что в ближайшие 5-7 лет нас ждет один из самых крупных макроэкономических шоков. Процесс, которые сегодня чувствуют все на переднем крае ИТ индустрии постепенно дойдет до многих других индустрий. Полная диффузия технологии в экономику займет десятилетия ДАЖЕ если прогресс полностью остановится прямо сегодня (помните, что лабы сегодня сидят на моделях на 2-3 поколения круче, чем те что выпущены на рынок, а релиз новой модели занимает от 2 до 3 месяцев). Но меня пугает и смущает не будущее — оно всегда было и будет непредсказуемым. И не прогресс — он тоже всегда менял общество. Меня смущает то как именно будет происходить трансформация общества. Я боюсь того, что большое количество людей не сможет приспособиться достаточно быстро к изменениям, которые не будут ждать большинства. Я думаю, что люди приходят в новый мир со старой ментальной моделью "родился-учился-получил профессию-работаешь всю жизнь" или что есть люди с идеями, а есть исполнители или что есть кто-то, кто лучше знает и за всех решит их проблемы. Это все больше не является правдой. Я не верю, что ИИ сделает людей ненужным, но я верю, что он сделает большое количество людей нежелающих меняться ненужными. Я не верю, что ИИ убьет людей, но людей убьет потеря смысла в жизни. Я считаю, что тут есть только одно решение — это развитие себя. Сложно сказать какие именно бизнесы строить сегодня, чтобы гарантированно разбогатеть (экономика эффективна, и любая очевидная идея слишком конкурентна), но можно с точностью сказать какие навыки и свойства будут необходимы: - агентность, то есть умение брать инициативу и ответственность не спрашивая разрешения - глубокое мастерство, потому что даже с ИИ легендарный фильм сгенерирует тот кто умеет рассказывать чудесные истории, а не тот у кого больше токенов - мультидисциплинарость (что непротиворечиво дополняет предыдущий пункт), то есть знание между дициплинами и умение находить связи, а техничесикие детали уже отдавать агентам - интуитивное понимание ИИ, как своего второго пилота/сокамерника/лучшего друга, и наличие системы чтобы он делал вас х100 успешнее, а не отнимал смысл. Я уверен, каждый из этих навыков можно развить. Это не интеллект или красота, которые на 90% являются генетическими. Это желание и целеустремленность. Я чувствую сильную соединенность с задачей помочь людям и компаниям пройти это турбулентное время, за которым, я уверен, будет еще больше позитивного. Не то чтобы я знаю ответы на все вопросы, но просто потому вместе веселее и не так страшно.