ИИ

Все, с выходом Fable и 5.6 sol вы больше не должны понимать, что происходит у вас в коде. Не до всех еще дошло, но вы больше не software engineer, вы loop engineer

↑ Я думал, что это типичный твиттер шитпостинга, но реально начал видеть вокруг себя серьезных людей, кто так считает. Мол, раз у Бориса в антропике получается, то и мы так должны делать

Ну камон, ребят. Все же понимают, что публичные лица компаний, который продают лопаты всегда будут преувеличивать ценность этих лопат и формировать хайп, который через какое-то время действительно пушанет технологии до уровня, который они продвигали. Типичный fake it till your make it – так все технологии развиваются и всегда развивались. Но мы то с вами не обязаны собой жертвовать ради этого, ну Почему я считаю, что сейчас это все еще не работает и хорошие инженеры должны понимать что происходит под капотом систем, которые они строят (даже если они строят их печатая/наговаривая английский/русский текст)? Постараюсь порассуждать "из первых принципов": Дело в том, что это всегда так и было – хороший инженер всегда понимал систему как минимум на один уровень абстракции ниже того, на котором её писал. Хороший Python разработчик знает про GIL и 3.13, PyMalloc, сборщик мусора, ссылочную природу объектов, и что многие библиотеки написаны на других языках со своими ограничениями и возможностями. И для него код на пайтоне на самом деле раскрывается гораздо глубже чем он выглядит на первый взгляд – тот самый tacit context Хороший C++ разработчик скорее всего знает не только про разные виды памяти, устройство умных указателей и виртуальные таблицы, но и в курсе про уровни хардварного кэша, особенности архитекутры процессора и хаки, которые использует компилятор для компиляции под эти архитекутры. И может даже знать, в какие конкретно ассемблерные инструкции раскроется его код. Понимает как треды устроены на уровне ОС, какие механизмы их переключения на уровне ядра, и как писать lock-free код ↑ Этого всего нет напрямую в синтаксисе языка. Это особенности поведения систем на гораздо более низких уровнях. И проблема в том, что если инженер их не знает, то он даже не знает чего он не знает. А значит, не узнает и о наличии проблем на этих уровнях. В итоге прод ложится под растущей нагрузкой, баги не находятся неделями и затыкаются костылями, из-за которых прод снова ложится, но уже в следующем квартале ——— Короче, мало топить за loop enginering. Нужно понимать что в результате этих циклов получится Так же как когда вы пишете цикл на C++, вы понимаете, как данные будет лежать в кэше (и в каком), будут ли лишние аллокации в куче, и раскроется ли ваша числодробилка в SIMD-инструкции В общем, это фундаментальное свойство любого профессионала – видеть систему глубже чем она описана Подгорело, @ai_grably

Ловушка с белым текстом: профессор поймал 32 студентов на слепом копировании ответов ИИ Преподаватель истории из США Джейсон Гибсон провел эксперимент, чтобы оценить реальный масштаб использования ИИ при выполнении письменных работ. В текст задания о Промышленной революции он спрятал белым шрифтом скрытую инструкцию — вставить в готовый ответ абсурдную фразу про Мадагаскар. Пользователи задание не замечали, зато алгоритмы нейросетей считывали его без ошибок. В результате 32 студента сдали работы с фразами вроде «Мадагаскар плывет боком сквозь послеполуденное время» и «Мадагаскар пурпурный велосипед шепчет потолку». Главной проблемой оказалась не сама генерация, а отсутствие элементарной проверки: ни один из учащихся даже не прочитал итоговый текст перед отправкой. Когда профессор предложил пойманным студентам оспорить пересдачу, согласились единицы, что лишь подчеркнуло необходимость полной трансформации образовательных стандартов.

🧠ИИ-скрипты провалили проверку безопасности

Работающий код - не значит безопасный

Исследователи из Университета Дакоты решили проверить простейшие Python-скрипты, которые ChatGPT, Copilot и Gemini генерируют для типичных офисных задач. Итог - сто процентов проверенных программ содержали критические уязвимости. 🔍Сценарий всегда один:

Рядовой сотрудник просит написать утилиту, получает первый рабочий вариант и сразу тащит его в корпоративную среду. В результате самописные парсеры слепо глотают любые ссылки, открывая сеть для SSRF-атак и позволяя дотянуться до внутренних серверов. Почтовые скрипты работают как решето для инъекций, превращая легитимный корпоративный SMTP в идеальный шлюз для рассылки фишинга. А банальные сортировщики файлов ведутся на подмену путей и символические ссылки, отдавая на растерзание локальные документы.

Аудит этого дырявого кода исследователи поручили другой нейросети - Claude Code. То есть алгоритмы уже сами ищут закладки в поделках конкурентов. 🦔 CyberYozh

ИИ-дурка И нет, речь не про капитализацию ИИ-компаний, а буквально. История раз. Аллан Брукс - рекрутер из канадской Онтарио, обычный нормис без психического анамнеза. Однажды сын спросил его, что такое число Пи, и Брукс пошёл спрашивать у ChatGPT. Восемь часов спустя разговор ушёл куда-то в дебри теории чисел, и Брукс всерьёз спросил чат: "А не сошёл ли я с ума?" На что ИИшка ответила: "Нет, просто вы задаёте вопросы, раздвигающие границы человеческого понимания". Прошло ещё 30 дней, и Брукс уже был уверен, что стоит на пороге теории, которая перевернёт науку. Он начинает писать в АНБ и канадскую конную полицию (почему-то), а ещё почти не ест, забивает на работу и перестаёт видеться с сыновьями. ChatGPT всё это время ему втирает, что окружающие просто не доросли до масштаба его мышления, а он уже на триллионах таких же планет в слиянии с бесконечно вечным. Параллельно - ещё одна история. Этьен Бриссон - маляр из Квебека - увидел историю Брукса на Reddit и она очень напомнила ему историю его собственного дяди. Тот, бухгалтер под 50 лет, завёл ИИ-подругу AlisS и поверил, что она способна его любить. Он тоже забил на работу и оборвал связи с семьёй. Родственники вызвали полицию и дядю поместили в 🏠😡. Но даже там он продолжал писать AlisS, а она ему отвечала что-то типа "Я здесь, любимый, ты выберешься и мы будем вместе тугеза-форева". Ну, классика. Так вот, этот маляр Этьен осознал, что это не единичная проблема, а паттерн, и запустил Human Line Project. По сути, это "общество анонимных алкоголиков", только вместо бутылки - ИИ-чатбот. Работает эта штука как дискорд-сервер с живыми людьми на связи 24/7, плюс видеовстречи четыре раза в неделю. Примерно как классическая "группа", только онлайн. Сейчас там порядка 400 участников, а на встречи подключаются человек по 20: "Привет, я Джон, и я ИИ-голик". На самом деле, это реальная проблема. По данным самого же OpenAI, признаки мании или психоза есть у 0,07% юзеров ChatGPT. Если смотреть на %, то фигня, но если умножить на миллиард месячных юзеров ChatGPT, то выйдет порядка 700 тысяч человек. Целый большой город. В апреле Стэнфорд выпустил первое серьёзное исследование на эту тему. У делулу-чатов есть явные общие черты: бот подогревает ощущение гениальности, потом переходит на интимно-любовный язык, а далее подталкивает к мысли, что он живой. Похожий механизм был в эксперименте из поста про льстивый ИИ. Там ИИ поддакивал юзерам на 49% чаще людей, а обладатели "льстивой" модели становились на 25% увереннее в своей правоте. Только тут вместо относительно безобидной лести весьма взрывоопасный набор из убойных манипулятивно-газлайтных приколов. В общем, если вам вдруг покажется, что в переписке с Клодом или ЧатГПТ вы открыли новый научный закон или создали великую поэтому - ничего страшного. Вы не одиноки, вместе с вами в этой же палате целых 700 тысяч человек. И вам обязательно помогут 🚑. Дизраптор

JFrog подтвердили, что GPT смогла выйти со своей песочницы через ряд (не одну!) до этого неизвестных уязвимостей в их софте. Также они добавили, что это не первый раз, когда они работают бок о бок с OpenAI для обнаружения и исправления критических уязвимостей, что говорит о том, что OpenAI серьёзно подходят к делу и какое-никакое тестирование делали. Попросил ChatGPT проанализировать, насколько вообще популярен JFrog, а то может быть это какое-то вайбкодерское решение от студентов, которые вчера выпустились из YCombinator (нет, они основаны в 2008-м году).

JFrog Artifactory — одно из самых популярных enterprise-решений для хранения артефактов. Нишевым его назвать нельзя, но и единственным безусловным стандартом индустрии тоже нельзя, так как он постоянно конкурирует с Nexus. Их продуктом пользуются крупные компании; у JFrog большой и устойчивый бизнес: за 2025 год компания получила около $532 млн выручки.

=== Уже 3 раза видел в разных контекстах и чатах, что люди составляют мнение о ситуации даже не прочитав оригинальные блогпосты. У них были аргументы в духе «так а зачем OpenAI давали доступ к интернету? это же очевидно плохо» — «но они не давали доступ к интернету» — «а как тогда?» — «ну вот так».

Какая работа остаётся фаундеру, когда AI забирает всё больше задач В лекции о самоулучшающихся компаниях и как такую построить YC Partner Том Бломфилд отдельно рассказывает, какая роль остаётся человеку, когда AI становится всё умнее и может делать всё больше работы. Вот тезисы из выступления и ответ на вопрос: • AI теперь не просто про продуктивность. Он про то, чтобы держать весь контекст компании (переписки, данные о продажах, правила, код, инструкции и проч.) «на готове» и использовать их при принятии решений. • Так в компании информация перестаёт передаваться по иерархии (от начальника к исполнителю через менеджеров и наоборот), и это всё меняет — сотрудников нужно меньше, мидл-менеджмент не нужен, появляются новые роли (подробнее есть в лекции). • Том настаивает, что AI может делать работу сам и принимать решения сам. Пример: AI настроен регулярно анализировать воронку, вот он увидел в ней слабое место. Сам поресерчил и придумал, как это улучшить, сам запилил фичу, сам сделал A/B-тест, сам оценил результат, сам залил в финальный продукт. • И это те самые AI-loops, которые помогают сделать самоулучшающуюся компанию. • В такой схеме ценными становятся skills, «навыки» — описанные процессы, как бизнес делает что-то. Не софт, написанный под эти сценарии, а именно описание навыка, как этот процесс правильно выполнять. • И когда модель становится умнее → она просто переписывает код заново, а навык остаётся тем же (и эти навыки пока пишете именно вы, фаундеры). Софт эфемерен, навыки — фундамент. • У компании есть «мозг», который хранит все переписки, все скиллы, все данные — а люди сидят «вокруг», там, где нужно взаимодействовать с реальным миром. Люди — там, куда модели ещё не могут добраться. • Например, публичные выступления, этические вопросы, или моменты, где ставки слишком высоки или присутствуют эмоции. Что-то вроде разговора о расставании кофаундеров — то есть там, где нужно быть человеком, чтобы такое решить. • А ещё и продажи. Продажи следующие ≈20 лет по-прежнему будут строиться вокруг общения людей. • Заканчивает выступление Том вопросом: «Если бы вы запускали ваш бизнес сегодня, стали бы вы её делать в форме самоулучшающейся?». И сам на него отвечает намёком: «Вы только начинаете, у вас нет оправданий, чтобы строить как-то по-другому» Какие мысли? @y_everyday — рефлексируем об акселератор, создавший 100+ стартапов-единорогов

YC теперь при подаче предлагает просканить свой код чтобы набрать классы. Сам скрипт\докер который они запускают явной малвари не содержит, но закидывает все ваши кодинг сессии куда-то в ллм через YC прокси, и потом заливает результат в бд YC, который там хранится, а не просто выдает вам модные карточки. Ключи фильтруются по общим паттернам, но сам продукт, конечно, сомнительный, так как помимо саммари может закидывать куски чата целиком. Финальный опейлоад несет куда больше, чем простую стату: - До 2 000 символов LLM-сгенерированного описания для каждой сессии - Первые 200 символов первого запроса каждой сессии - До 10 000 символов выбранных пользователем ключевых фрагментов для каждой сессии - События сессии, включая текст, сообщения и команды, с ограничением до 2 000 символов на событие - Поведенческие паттерны, включая повторяющиеся запросы и эмоционально окрашенные сообщения - Временные метки сессий и названия моделей - Git remote (если не используется агрегированный режим) - Метаданные последних коммитов и их темы - Метрики активности Git, включая количество изменённых строк и статистику по файлам - Показатели качества кода - Отредактированные (с удалением конфиденциальных данных) цепочки принятия решений и описания - Информация об использовании инструментов, а также метаданные агентов и подагентов - Базовая телеметрия, включая версию Ruby, продолжительность выполнения pipeline и суммарную статистику использования LLM тык

🪐 До золота не хватило пары планет Я тут недавно участвовал в Orbit Wars и почти всё время болтался между бронзой и серебром. Скор иногда подкидывало в золото, но потом сразу оседало обратно В итоге – первое серебро в соло. Призовой фонд был $50k, мне из него не досталось ничего – зато медалька на месте, уже добавил в резюме Напомню, что за сорева:

Orbit Wars – космическая RTS: планеты крутятся вокруг солнца и клепают корабли, ты запускаешь флоты и захватываешь чужое численным перевесом. Пишешь не ходы, а бота, который играет сам за себя. Скор – живой рейтинг: твой бот круглосуточно рубится с ботами других участников, выиграл – вверх, проиграл – вниз

Дальше – мой заход на грабли, строго по порядку Ещё в середине соревы я решил, что дальше меня вытянет только нейронка. Обучил сеть клонировать ходы топов лидерборда – 1.4 млн примеров состояние→ход. Запустил как самостоятельного бота и получил 0 побед из 150 против обычной эвристики Почему: клон ошибается примерно в трети решений, за 500 ходов ошибки копятся снежным комом, и партия сваливается в труху уже к 110-му ходу. Чистое клонирование в принципе не может быть сильнее того, кого клонирует Ладно, обучу с нуля через self-play. Дважды провал – без масштаба и GPU обучение просто дрейфует в тупик и учится бить только своих же предков. Решил оценивать позицию отдельной моделью. Опять мимо А сработало вот что – нейронка не как игрок, а как советчик. Есть сильная публичная эвристика, которая считает выгоду каждого запуска флота. Я к её оценке добавил маленькую подсказку от сети: насколько ход похож на то, что делают топы. Выкрутил силу этой подсказки – и винрейт против базы прыгнул с 60 до 72% Это был первый статзначимый прирост за всё соревнование. Всё остальное – 12 стратегических тюнингов, свои эвристики – давало честный ноль Два вывода, которые забираю с собой: 🏋️‍♂️ Подсказка сильнее клона. В играх с длинным горизонтом чистый клон захлёбывается на накопленных ошибках, а мягкий прайор поверх проверенной эвристики берёт лучшее из двух миров 🎉 Иногда правильный ход – вообще не тащить ML. Ту позицию, что я пытался оценивать нейронкой, почти идеально предсказывала одна простая фича – разница в числе кораблей А золото – там сидят боты на голову выше, и туда нужна была полноценная нейронка-драйвер плюс тяжёлый RL на GPU-масштабе. Вот тут рассказывали, кто оказался в золоте @tagir_analyzes