ИИ

S@serge_aiAI-инженер

1 мес

✅KEISOSUBBOTA оффтоп: совет, да любовь, молодожёны!❤️‍🔥 Кейсосуббота — это рубрика, где мы делимся своими работами и взаимодействиями с ИИ. Это может быть что угодно: -картинки -анимации -текст -код -боты -песни -видео и т.д. ❤️ Не забывайте оставлять обратную связь на работы других людей. Это очень ценно Давайте попробуем меньше разводить флуд в комментариях. Для разных вопросов у нас есть чат — там такое. А здесь давайте по делу. Читайте ниже пояснение 👇А также читать пояснения и правила по ссылке ниже. ❗️ВАЖНО! Прочитайте по ссылке ниже пояснения: Ссылка на пояснение для тех, кто не участвовал ни разу в этой рубрике. Или для тех кто не помнит, какие есть правила. + ПУБЛИКАЦИИ ОТ ИМЕНИ КАНАЛОВ И ЕСЛИ У ВАС НЕТ НИКА В ТЕЛЕГРАМ— НЕ ПРОХОДЯТ СЕЙЧАС МОДЕРАЦИЮ ТАКЖЕ - ЕСЛИ НЕ ПОЛУЧАЕТСЯ ОСТАВИТЬ КОММЕНТАРИЙ (БОТ БЛОЧИТ ВАС) -- читайте здесь 〰️Пояснения нужны для того, чтобы потом не удивлялись почему удалён тот или иной материал. Ставим реакцию🔥 этому посту и далее скидываем кейс (с использованием нейронок/ИИ/AI/whatever) в комменты ниже👇 У кого есть то, чем хочется похвастаться?🥳🥳🥳 три... два... раз.. 🚀Поехали #keisosubbota@serge_ai

ии нейросети кейсы сообщество

ИИ ai multimodal realtime llm minicpm qwen

Представлена модель Realtime-Venus с поддержкой аудио-видео дуплекса

Н@GreenNeuralRobotsAI-инженер

1 мес

Realtime-Venus Полный аудио-видео дуплекс: модель слушает, пока говорит, видит аудио-видео контекст и параллельно делегирует задачи в фон, не прерывая диалог. Два чекпоинта по 9B на базе MiniCPM-o 4.5 • Omni - аудио-видео: непрерывно смотрит и слушает, сама решает, когда ответить • Audio - голосовый диалог с речевым выводом • асинхронная делегация - <delegate>-запросы в потоке, внешние задачи не блокируют разговор • память длинных видео без дообучения • различает перебивания, коррекции и редиректы Вход: видео, аудио, текст. Выход: текст и речь. Языковая база - Qwen3-8B, контекст 40960 токенов Гитхаб HF Heretic Демо #multimodal #duplex #realtime #dialog

Представлена модель Realtime-Venus с поддержкой аудио-видео дуплекса

ai multimodal realtime llm minicpm qwen

ИИ ai alignment llm нейросети

Влияние алайнмента на поведение моделей

D@derplearningAI-инженер

1 мес

https://t.me/kuhlaikari/3616 алайнмент моделей дает свои плоды

ai alignment llm нейросети

ИИ ии авторское право музыка суд нейросети

Sony и Universal подали новый иск против Suno из-за обучения модели v6

3@ru3dnewsмедиа / агрегатор

1 мес

«Плод того же отравленного дерева»: Sony и Universal снова подали в суд на ИИ-генератор Suno за кражу музыки Sony Music и Universal Music Group снова подали в суд на музыкальный ИИ-сервис Suno. Компании утверждают, что новая модель Suno v6 обучалась на результатах прежних моделей, созданных с использованием нелицензионной музыки с YouTube и других источников. По мнению истцов, это не новое обучение, а попытка «отмыть» украденные данные через цепочку моделей и их ответов. Sony также заявила, что Suno применяла дистилляцию, чтобы v6 воспроизводила результаты старых моделей. У Suno по-прежнему нет лицензий от Sony и Universal. #sony #universalmusicgroup #ии #suno 📎Подробнее 🔖 3DNews в TG | MAX | VK

Sony и Universal подали новый иск против Suno из-за обучения модели v6

ии авторское право музыка суд нейросети

ИИ openai chatgpt codex сбой сервисы

OpenAI восстановила работу сервисов и сбросила лимиты

F@FuturisAI-инженер

1 мес

Сообщаю, OpenAI починили Codex и ChatGPT (пока мы спали они легли) и сбросили всем лимиты 🐸

OpenAI восстановила работу сервисов и сбросила лимиты

openai chatgpt codex сбой сервисы

Геймдев ИИ gamedev ии опенсорс разработка игр агенты

Scenario представила опенсорсную ИИ-студию для разработки игр

N@notboring_techAI-инженер

1 мес

🎮 Scenario опенсорснули целую игровую ИИ-студию — GameDev OS даёт вашим агентам 64 (!) скилла среди 9 специализаций, которые разрабатывают любую игру с нуля из одного запроса. С ними агенты научатся профессионально генерировать вообще всё — ассеты, текстуры, 3D-модели, анимации, саунд-дизайн, озвучку, открытый мир, трейлеры и многое другое.

Например, 2D-художник рисует эскиз пистолета → 3D-аниматор превращает его в 3D-модель → специалист по окружению создаёт локацию → саунд-дизайнер добавляет звуки выстрелов → видео-продюсер монтирует из готовой игры трейлер.

Работает с Claude Code, Cursor, Codex, Copilot и 70+ другими агентами, а также поддерживает генераторы Seedance, Meshy, Rodin и многие другие. Годнота для разработки игр — тут. @notboring_tech

gamedev ии опенсорс разработка игр агенты

ИИ ai llm советы общение нейросети

Как сойти за умного в общении с LLM

S@seniorsoftwarevloggerмедиа / агрегатор

1 мес

Как сойти за умного? Спроси: “а возможен ли рейс”. Всегда работало с людьми. Продолжает работать с ЛЛМами.

ai llm советы общение нейросети

ИИ Маркетинг ai видео промпт маркетинг opus 5.5

Создание продуктовых видео с помощью Opus 5.5

К@sukhachevkмедиа / агрегатор

1 мес

Продуктовые ролики от Opus 5.5 Несмотря на весь мой AI-энтузиазм, до сегодняшнего дня я думал, что, чтобы делать видео, Клоду нужна куча обвесов и интеграций, а оказалось, что Opus 5.5 из коробки одним промптом собирает уже приличные ролики про продукт. Сам изучил сайт, интерфейс нарисовал без единой картинки, музыка, монтаж. Всё под ключ с этого промпта:

Make a launch video for the product below, the kind a top startup posts on X on launch day. The bar: someone who has never heard of the product gets what it does in the first seconds and wants to try it by the end. Get to know the product first: what it promises, who it is for, what makes it worth trying. Use its real assets: logo, colours, type, interface. Make the product the star: show it working instead of describing it. Direction, story, pacing and sound are yours; make it look like a motion designer's work, not a template. Before you call it done, review it scene by scene with a critical eye and polish what is weak. Keep it true: real features, real numbers, nothing borrowed that you do not have the rights to. Project: https://overgear.com

Забирайте, пользуйтесь, делитесь, только поменяйте ссылку в последней строке на свой продукт. Какие ещё внезапные задачи за один промпт решали? Константин Сухачев

ai видео промпт маркетинг opus 5.5

Продукт ИИ бизнес стратегия логика ai продакт-менеджмент

Критический взгляд на аргументацию «новой реальности» в бизнесе

S@strategic_moveмедиа / агрегатор

1 мес

В последнее время я всё чаще замечаю одну конструкцию в разговорах и в рекламе) «Мир изменился - значит, старые правила больше не работают». AI изменил разработку - значит, продакт должен стать Product Engineer. Появились маркетплейсы - значит, бренд больше не имеет значения. Появился AI - значит, образование должно полностью перестроиться. Экономика стала цифровой - значит, классические модели стратегии устарели. Звучит убедительно. Но между первой и второй частью почти всегда пропущено самое важное: почему? Если вы не отвечаете на почему (ну или отвечаете "потому что все так делают"), то у вас нет стратегического аргумента. У вас есть только мнение, замаскированное под решение. Из того, что что-то изменилось, совершенно не следует, что перестал работать механизм, который существовал раньше. Чтобы утверждать, что старые законы перестали работать, нужно показать: какой именно механизм сломался. Мы наблюдаем: AI резко снизил стоимость написания кода. А потом почему-то мгновенно делаем вывод: значит, продакт теперь должен больше кодить. Но логическая цепочка здесь вообще не очевидна. Возможно, вывод должен быть противоположным. Если производство кода становится дешевле и доступнее, то кодинг становится менее дефицитным ресурсом. А значит, относительно дороже могут стать другие способности: понять, что вообще стоит строить; увидеть причинную связь между поведением клиента и бизнес-результатом; выбрать рынок; сформулировать ставку; понять, где создаётся экономическая ценность. Есть очень простой тест для любой новой бизнес-идеи. Если вам говорят: «Сейчас новая эпоха…» «Рынок полностью изменился…» «Старые подходы больше не работают…» «Теперь компании должны…» задайте один вопрос: «А какой механизм связывает первое утверждение со вторым?» И если вы не понимаете почему именно это должно работать в вашем бизнесе, начинается паника: А вдруг мы отстаём? А вдруг уже поздно? А вдруг нам тоже срочно нужно это делать? Не потому, что люди глупые. А потому, что при отсутствии причинной модели невозможно отличить сигнал от шума. Без этого любое движение рынка выглядит как приказ: «Срочно делайте то же самое».

бизнес стратегия логика ai продакт-менеджмент

IT ИИ ии разработка продуктивность no-sloptober программирование ai

No Sloptober: челлендж на месяц без ИИ-инструментов

AI-редакция

2 источника · показать все· свернуть

Сергей Булаев AI 🤖Инициатива no-sloptober: месяц отказа от ИИ-инструментов Нейронавт | Нейросети в творчествеЧеллендж No Sloptober: месяц без использования LLM

собирается · 2обновлено 1 мес назад

Сайт no-sloptober.com предлагает разработчикам и не только провести весь октябрь без ИИ: без чат-ботов, агентов, AI-саммари в поиске и ревью кода через LLM. Идея построена по аналогии с «Sober Octoberi» (месяц без алкоголя) и «no-nut-november», только вместо привычного соблазна отказываются от Claude и подобных инструментов.

Цель — не просто цифровой детокс, а проверка собственных навыков: что человек умеет делать сам, где реально нужен ИИ, и не превратился ли он в «пересыльщика промптов». Отдельно предлагается провести эксперимент на работе — сравнить скорость команды, число инцидентов и расходы при сниженном использовании нейросетей.

Полный разбор →

ии разработка продуктивность no-sloptober программирование ai

ИИ ии литература гонкуровская премия pangram авторство

Скандал вокруг использования ИИ в литературе и Гонкуровская премия

М@myobrechenychannelAI-инженер

1 мес

Как вам теория заговора — на самом деле в индустрии вообще ничего не происходит, просто сбежавшие агенты обслоптли интернет новостями о себе. Норм? Просто эти новости же невозможно читать человеческим глазом. От них шарики за ролики едут. Что на этой неделе было — релизнули десяток гаджетов, еще два десятка анонсировали. Несколько стартапов, которые создают AI продукты, где можно создавать свои AI продукты для создания AI продуктов — похвастались доходом в полмиллиарда за первое полугодие. Несколько миллиардов инвестировали в чипы, несколько в инфраструктуру и еще несколько в AI продукты для создания… вы поняли. Реально, все это потреблять и не свихнуться можно только через ИИ выжимки. Но вы же здесь не за этим, правильно? У нас тут последний человеческий оплот разговоров про айти. Меня вот сегодня развеселила такая новость: жюри Гонкуровской премии, самой престижной литературной премии во Франции, сняло с конкурса одного автора за то, что тот сгенерировал книгу, а не написал. Книга C'etait Ca ‌ou Mourir от Гаитяно-канадского писателя о том, как гаитянин бежит в Канаду. С одной стороны — появление такой новости было вопросом времени. С другой, автор и издательство вроде как обвинения отрицает. Правда, этого автора еще в темные времена (в 2012-2013 году) обвиняли в плагиате. И вот нашёлся литературный критик, который прогнал его новую книгу через ИИ-детектор Pangram, и тот выдал результат — слоп. Не знаю, чем закончится их скандал, но я хз как теперь такие вещи разруливать. Мне уже все тексты в мире по дефолту кажутся слопом, и одновременно ни одному детектору я не могу верить. Хотя я скормил несколько своих текстов этому Панграму, и он сказал что 100% human. Спасибо и на этом

ии литература гонкуровская премия pangram авторство

Карьера ИИ Стартапы найм стартап ии цифровой детокс dumb.co

Стартап Dumb.co обязал кандидатов писать сопроводительные письма от руки

v@vcnewsмедиа / агрегатор

1 мес

Стартап Dumb.co продаёт «тупофоны» для «цифрового детокса» и искал стажёров, тоже увлечённых идеей больше времени проводить в офлайне. Но столкнулся с потоком однотипных сопроводительных писем, сгенерированных ИИ. Это не соответствовало миссии компании, и она решила: письма надо писать от руки. Хотя на их проверку ушло больше времени, в компании говорят, что смогли лучше узнать будущих коллег и сделать процесс найма более «личным» vc.ru/hr/3159698

Стартап Dumb.co обязал кандидатов писать сопроводительные письма от руки

найм стартап ии цифровой детокс dumb.co

ИИ IT claude code git ai разработка этика

Отключение авторов Claude в git-коммитах

T@tips_aiAI-инженер

1 мес

Кстати в последней обнове Claude Code добавили настройку чтобы вырубить соавторство клода в git-коммитах и PR Выключается в .claude/settings.json:

{ "attribution": false }

Это можно было сделать и раньше, но на сколько знаю не всегда срабатывало и вотермарка всё равно проскакивала Для меня здесь только сомнительна этическая часть, правильно ли скрывать что твой код пишет агент, а не ты? 🍿 @tips_ai

Отключение авторов Claude в git-коммитах

claude code git ai разработка этика

релизИИ ai робототехника flux black forest labs embodied ai нейросети

Black Forest Labs выпустила FLUX 3 Action — модель для управления роботами

AI-редакция

3 источника · показать все· свернуть

Нейронавт | Нейросети в творчествеBlack Forest Labs представили модель FLUX 3 Action Метаверсище и ИИщеBlack Forest Labs представили модель FLUX 3 Action для робототехники эйай ньюзBFL выпустили FLUX 3 Action для управления роботами

разгоняется · 3обновлено 1 мес назад

Black Forest Labs (BFL) представила FLUX 3 Action — мировую модель действий с открытыми весами на 7B параметров, дообученную на основе видеомодели FLUX 3. Модель принимает кадры с камеры робота, текущее состояние робота (положения суставов) и текстовую инструкцию, а возвращает следующую порцию действий вместе с денойзенными будущими кадрами видео — предсказание действий и видеокадров происходит в одном проходе.

Это не готовая robot-policy, а компонент адаптации: для новой морфологии робота требуется собственный action headi, а приложение само задаёт ограничения по скорости, силе и рабочей зоне. Уже есть готовые политики для роботов SO-101 и DROID.

7Bпараметров модели

42.9%успешных попыток на RoboLab-120

36.8%результат конкурента Cosmos 3 Nano (16B)

Полный разбор →

ai робототехника flux black forest labs embodied ai нейросети

ИИ IT llm zx spectrum эмуляция z80 разработка

Опыт разработки эмулятора ZX Spectrum с помощью LLM

Х@habr_comмедиа / агрегатор

1 мес

Где LLM спотыкаются об эмуляцию ZX Spectrum Сначала всё шло подозрительно хорошо. Несколько моделей поревьювили друг друга, собрали архитектуру, перенесли Z80, ULA и клавиатуру — и через пару часов эмулятор уже выдавал правильную картинку. Потом дошло до дисковых контроллеров. Документация есть, готовые реализации тоже, написанные моделями тесты проходят, а часть игр всё равно не запускается. Пришлось подключать образы дисков, другие эмуляторы, пошаговое исполнение и разбирать по тактам поведение старого железа и защит от копирования. Именно здесь «электрические джуны» начали показывать особенно интересную разницу между умением написать код и умением понять, почему он не работает.

Опыт разработки эмулятора ZX Spectrum с помощью LLM

llm zx spectrum эмуляция z80 разработка

Продукт ИИ IT разработка ai промпт-инжиниринг дашборд fluently

Создание real-time дашборда для Fluently с помощью AI

R@rebrykblogAI-инженер

1 мес

Дома стоит большой телевизор, и вчера мне пришла в голову идея собрать для Fluently real-time дашборд с разной аналитикой. Получилось прикольно! Видно, сколько людей и из каких стран общаются с нашими тьюторами, а когда кто-то покупает подписку, включаются прикольная анимация и звук 🥹 За последние пару недель пришел к тому что, чтобы вайбкодить такие штуки быстро и симпатично, надо просить модель сначала собирать js прототип с разными вариантами каждого элемента. Особенно это актуально там, где нужно перекомпилировать проект, прежде чем увидеть результат. Для каждого элемента, который вы видите на видео, было 4–5 вариантов реализации. Я игрался с тоглами и смотрел, как всё будет выглядеть в композиции. Оно лагало, и там были разные баги, но зато это был один промпт☝🏻 Второй промпт как раз чтобы зафиксировать конкретные решения, поправить косяки и оформить это пулл реквестом в репу. Осталось заюзать третий промпт, чтобы он выключил озвучку покупок с полуночи до 8 утра 😁

разработка ai промпт-инжиниринг дашборд fluently

Геймдев ИИ sony геймдев ии матчмейкинг патенты

Sony запатентовала ИИ-систему подбора игроков на основе пользовательских данных

B@biggeekавтор про «tech»

1 мес

Sony запатентовала ИИ-систему подбора игроков, основанную на личных данных пользователей В патенте описывается система подбора игроков в сетевых играх, основанная на искусственном интеллекте, которая учитывает все ваши данные в экосистеме Sony. ИИ будет учитывать время, проведённое в играх, информацию о покупках, социальных сетях, записи чатов и даже историю поиска. Приём данные могут получены из разных источников. Также описывается меню, которое покажет пользователям их показатель совместимости с друзьями и другими игроками. Но стоит сказать, что наличие патента не даёт никакой гарантии реализаций этой технологии.

Sony запатентовала ИИ-систему подбора игроков на основе пользовательских данных

sony геймдев ии матчмейкинг патенты

ИИ Наука ai latex gpt-5.6-sol наука промпт-инжиниринг overleaf

Проблемы с редактированием LaTeX в GPT-5.6-SOL

Т@tech_priestessAI-инженер

1 мес

ЗАПЛАТИЛА 20$ АЛЬТМАНУ ЗА ПОДПИСКУ НА GPT-5.6-SOL, ПОТОМУ ЧТО КОЛЛЕГИ ГОВОРЯТ ЧТО ОН ПИШЕТ НАУЧНЫЕ ТЕКСТЫ ЛУЧШЕ ЧЕМ КЛОД @ СКИНУЛА ЕМУ ЛАТЕХ СВОЕГО АППЕНДИКСА И ПОПРОСИЛА СДЕЛАТЬ МИНИМАЛЬНО ВОЗМОЖНЫЕ ПРАВКИ, ЧТОБЫ УЛУЧШИТЬ ГРАММАТИЧЕСКУЮ КОРРЕКТНОСТЬ И МАТЕМАТИЧЕСКУЮ СТРОГОСТЬ, А ТАКЖЕ УКАЗАТЬ НА ВОЗМОЖНЫЕ НЕТОЧНОСТИ @ ГПТ ПЕРЕПИСАЛ ВЕСЬ АППЕНДИКС В ДРУГОМ СТИЛЕ @ СКАЗАЛА ЕЩЁ РАЗ ЧТО ПРАВКИ ДОЛЖНЫ БЫТЬ МИНИМАЛЬНЫМИ @ GPT СОГЛАСИЛСЯ И ОПЯТЬ ВСЕ ПЕРЕПИСАЛ, ПОЧЕМУ-ТО ВДОБАВОК ЗАМЕНИВ ЗНАКИ ДОЛЛАРА НА СКОБОЧКИ, А ТАКЖЕ ПРОПУСТИЛ ОТКРЫВАЮЩУЮ СКОБОЧКУ, ИЗ-ЗА ЧЕГО ЛАТЕХ ПЕРЕСТАЛ КОМПИЛИРОВАТЬСЯ @ ДОБАВИЛА ПОДРОБНЕЙШИЕ ИНСТРУКЦИИ ПРО МИНИМАЛЬНЫЕ ПРАВКИ В ПРОМПТ ОБЩИЙ ДЛЯ ВСЕХ ЧАТОВ И В ПОСЛЕДНИЙ РАЗ СКАЗАЛА ЧТОБЫ ПРЕКРАТИЛ ПЕРЕДЕЛЫВАТЬ ТЕ ЧАСТИ ТЕКСТА, С КОТОРЫМИ И ТАК ВСЕ В ПОРЯДКЕ, А ТАКЖЕ ВЫДАВАЛ РАБОЧИЙ ЛАТЕХ КОТОРЫЙ МОЖНО ВСТАВИТЬ В ОВЕРЛИФ @ ГПТ ВЫДАЛ НОВЫЙ ТЕКСТ, НА ЭТОТ РАЗ, ДЕЙСТВИТЕЛЬНО НА ПЕРВЫЙ ВЗГЛЯД ОЧЕНЬ БЛИЗКИЙ К СТАРОМУ И СОДЕРЖАЩИЙ ДЕЙСТВИТЕЛЬНО СПРАВЕДЛИВЫЕ ПРАВКИ ПО ДЕЛУ @ СКОПИРОВАЛА ТЕКСТ В ОВЕРЛИФ @ ВСЕ ССЫЛКИ НА КАРТИНКИ И ДРУГИЕ АППЕНДИКСЫ ПРЕВРАТИЛИСЬ В ТЫКВУ ПОТОМУ ЧТО ВСЕ ССЫЛКИ ВИДА \ref{app:appendix_name} БЫЛИ ЗАМЕНЕНЫ НА \ref{app}, А \ref{fig:figure_name} - НА \ref{fig}

Проблемы с редактированием LaTeX в GPT-5.6-SOL

ai latex gpt-5.6-sol наука промпт-инжиниринг overleaf

ИИ comfyui нейросети инструменты ai генерация

Open Manager для ComfyUI: новый инструмент управления

Н@GreenNeuralRobotsAI-инженер

1 мес

Open Manager for ComfyUI Альтернатива стандартному менеджеру #ComfyUI Смотрит за всем воркспейсом, а не только за нодами. Своя вкладка сбоку • установка нод из реестра или GitHub - до запуска видно, что ставится • скачивание моделей прямо из воркфлоу: докачка и проверка • библиотека моделей - дубликаты и неиспользуемые файлы • монитор ресурсов - CPU, RAM, VRAM и температура • рабочий стол на отдельной вкладке - файлы, заметки, результаты Для авторов пакетов - темы, примеры воркфлоу, галерея через pyproject.toml. Работает как обычная нода или как замена менеджера #manager #tools MAX

Open Manager для ComfyUI: новый инструмент управления

comfyui нейросети инструменты ai генерация

ИИ nethack airi ии планирование алгоритмы эволюционные алгоритмы

AIRI запустила открытое сообщество для решения NetHack с помощью ИИ-планировщиков

AI-редакция

2 источника · показать все· свернуть

MachinelearningЗапуск открытого сообщества для решения NetHack Data SecretsAIRI запустили открытое сообщество для решения NetHack

собирается · 2обновлено 1 мес назад

Исследователи из AIRI открыли сообщество, объединяющее разработчиков систем планирования для ИИ вокруг задачи прохождения NetHacki — классической и крайне сложной для алгоритмов игры. Лидер инициативы — Владислав Куренков.

Участники сохраняют собственные подходы: свой способ получить рабочую программу, свои инструменты и стратегию, но пользуются общей инфраструктурой, которая позволяет сравнивать результаты друг друга и дорабатывать чужие решения.

Полный разбор →

nethack airi ии планирование алгоритмы эволюционные алгоритмы

ИИ ии llm агенты безопасность эстер дайсон

Эстер Дайсон о рисках автономных ИИ-агентов

T@techsparksAI-инженер

1 мес

Эстер Дайсон много лет, с 2006 по 2022, входила в совет директоров Яндекса, общаться с ней всегда было увлекательно и полезно: она не просто очень опытный глобальный инвестор, но и реально глубокий эксперт по мировым технологическим рынкам и вообще большая умница. Интересно прочитать ее свежий текст про ситуацию вокруг ИИ. Она особо выделяет, что языковые модели плохо понимают причины, стимулы и последствия своих действий. Поэтому для реальных решений им нужна связка с каузальными, логическими и символическими моделями мира, а не просто ещё больше данных, токенов и вычислений. Еще один голос в поддержку развития разнообразия моделей, а не только массовой ставки на все более мощные LLM. Причем Эстер подчеркивает: риски усугубляются, когда модель не просто отвечает текстом, а получает автономию: доступ к внешним системам, право вести переговоры, запускать процессы и взаимодействовать с другими агентами. Ну то есть переход к агентам делает потребность в усовершенствовании моделей особенно сильной. И это совершенствование — не просто наращивание мощности, но и появление символических моделей. Для агентов это означает, что LLM не должна быть единственным «мозгом» агента. Нужны еще явная модель предметной области, симулятор сценариев, политика разрешений, журнал решений и человек, который отвечает за последствия. Среди прочего, такой подход меняет и взгляд на проблему “замедления”: по мере роста агентности растет стоимость контроля.

It’s not clear how much it will cost to rein in the agents, but that’s the prospect that scares the frontier labs now.

Эстер считает, что безопасность нельзя оставлять закрытым корпоративным процессом: у компаний есть собственные стимулы — скорость, выручка, капитализация и контроль рынка — они конфликтуют с безопасностью. От эксперта в корпоративном управлении такого уровня эти слова дорогого стоят. https://estherdyson.substack.com/p/ai-needs-a-deeper-understanding-of

ии llm агенты безопасность эстер дайсон

Ещё ↓