Яндекс ПЕРЕСТРАИВАЕТ подход к ИИ — об этом рассказал в интервью CEO Алисы и умных устройств Валерий Стромов. Собрали главное из статьи: — Раньше вся индустрия гналась за одной супермоделью. Теперь новый тренд — под каждую задачу подбирается своя, чтобы экономить ресурс. — Яндекс движется по такому же пути и строит собственную мультимодельную систему из собственных и опенсорсных моделей. — Поверх этого компания строит систему умного распределения задач (оркестратор), чтобы максимальное качество достигалось по минимальной стоимости, и обвязку (харнесс), которая дает позволяет «Алисе AI» использовать разные сервисы. — Роутинг и харнесс — собственные разработки, запуск на пользователей уже в сентябре. — Около 80-90% запросов Алиса AI будет передавать собственным моделям Яндекса, а под узкие задачи подключать подходящую опенсорсную модель. — Яндекс к концу года привлечет 1000 профильных экспертов в качестве ИИ-тренеров для обучения собственных моделей. 🍿🍿🍿

Продавать старые подержанные книги в наше время — оказывается денежное занятие. Уже два года по всему миру букинисты продают гигантские партии книг. Сначала было непонятно куда, теперь понятно. Бум продаж начался с 24 года. Одни и те же покупатели заказывают десятки партий, миллионы томов, которые отправляются на одни и те склады. Нам-то с вами прекрасно понятно, куда и зачем. Но издание 404 media все равно провело расследование, подложило в одну из таких посылок маячок, чтобы проследить куда книжки в итоге едут. Свой путь они закончили на одном из складов Amazon. Там эти книжки оцифровывают и тренируют на них ИИ. Тем же самым занимаются и все остальные антропики, гуглы и опенаи.  Чем старее и реже книга, тем вероятнее, что ее текста нет в интернете. Дистиллированный прекрасный человеческий текст без единого процента слопа. Отличный свежий корм для модели. Книг за прошлые лет сто напечатали достаточно. Нормальная практика, если бы не одно но. Из-за которого все это делается полускрытно, втихую, даже как будто стыдливо и без лишних комментариев. Книги надо сканировать быстро, много, в промышленных масштабах. Проще всего это сделать, если отправить книгу в конвейер, где ей отрубит нахер переплет, автоматом проведет все страницы через сканер, и отработанную макулатуру отправит на помойку. Вроде чего стыдится. Текст же не пропадает.  Но блин, уничтожение книг — это настолько въевшийся в нашу культуру штамп. Настолько сильный и знакомый всем образ. Мелкий злодей отбирает у ребенка конфету, а Суперзлодей мирового масштаба жгет книги. “А знаете кто еще жег книги!?” Понятно, что никто не жгет их со зла с дьявольским хохотом. Просто так быстрее, дешевле и эффективнее. Ну да, жаль немного, но так нужно для прогресса. Скажите спасибо, что не людей тыкают для медицинских исследований. И возмущаться вроде нечему. Не пойдешь же как дурак орать — остановите этих негодяев, они книжки режут. Все равно лежат без дела никому ненужные. А тут наконец нашлась цель и польза.  Но какое-то ощущение на подкорке сидит, что че-то неправильная творится хуйня.

Тут исследователи решили дополнить классику Канемана про Систему-1 и Систему-2 и предложили в эпоху ИИ рассматривать еще и Систему-3 — внешнее алгоритмическое мышление ИИ, которое использует человек в процессе решения задачи. Авторы не без оснований полагают, что ИИ уже стал активным внешним участником принятия решений. Авторы различают два режима работы с ИИ. • Когнитивный аутсорсинг (offloading): человек делегирует ИИ часть работы, но сохраняет контроль, сверяет ответ с задачей и при необходимости отменяет рекомендацию. • Когнитивная капитуляция (surrender): человек принимает выданный ИИ ответ без достаточной проверки; собственная аналитика фактически не включается. В ходе нескольких разумно сдизайненных экспериментов получили ожидаемый вывод: качество человеческого ответа стало зависеть от качества подсказки ИИ: правильный вариант ИИ добавил около 25 процентных пунктов к базовому уровню, ошибочный — отнял около 15. Контраст между двумя типами рекомендаций был крупным по размеру эффекта: Cohen’s h = 0.81. Вроде бы выглядит как большая опасность, но, как и в большинстве подобных экспериментов, сама среда их проведения примитивна: просто ChatGPT (а в данном случае еще и неявно управляемый экспериментаторами). Принципиально ошибочным при этом является неявно используемое утверждение “ChatGPT = AI" Все выводы, таким образом, сводятся к тому, что в лоб и бездумно использовать первый же ответ ChatGPT на сложную задачу опасно. Для бытовых пользователей ИИ-чатиков статья несет важное предупреждение — вот только они его не прочитают. А в реальных рабочих процессах с использованием ИИ, в правильной обвязке и с разработанными процедурами вариант “когнитивной капитуляции” становится куда менее вероятным, ради этого harness и существует. Тем не менее прочитать полезно, хотя это совсем не популярный текст (а уже появившиеся популярные пересказы с призывами “не сдавайтесь ИИ!” поверхностны и местами истеричны). А вообще интересно, приживется ли концепция “системы-3”, она по сути своей заметно глубже примитивного “ИИ — это инструмент” https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646 Если кому трудно по ссылке пройти, вот статья в PDF

🌰🤖 Сэм Альтман заявил, что для производства одного миндального орешка в Калифорнии может потребоваться столько же воды, сколько уходит на обработку примерно 38 000 запросов в ChatGPT Он привёл это сравнение, говоря об экологических издержках ИИ, утверждая, что объём воды, затрачиваемой на один запрос в ChatGPT, значительно меньше, чем многие думают. Большая часть потребления воды ИИ связана с дата-центрами, где работают модели: вода используется для охлаждения серверов, а также играет роль в производстве электроэнергии, необходимой для их работы. Но когда этот общий объём делится на миллиарды запросов, доля, приходящаяся на один запрос, становится очень маленькой. Альтман использовал сравнение с миндалём, чтобы показать, как легко потерять чувство масштаба, говоря о «водном следе» ИИ. Сельское хозяйство также потребляет огромные объёмы воды, а некоторые культуры, выращиваемые в засушливых регионах, могут требовать намного больше воды на единицу продукции, чем одна цифровая операция. Он уточнил, что называет цифру 38 000 по памяти, поэтому её следует воспринимать как его собственную оценку, а не точное измерение. В любом случае, это яркое сравнение для дискуссии, которая обычно сосредоточена на общем водопотреблении ИИ, а не на том, сколько «стоит» один запрос. #интересное

База про автоматизацию 😀 У меня как-то в доковидные времена была неделя, когда я просидела 2 ночи, чтобы разнести звонки по карточкам сделок. Я это помню настолько четко, особенно потому что сейчас это кажется страшным сном)) С того дня я периодически возвращалась к вопросу автоматизации, посредством всяких дурацких костылей. Но то, на какой уровень автоматизация вышла сейчас, поражает В связи с этим решила написать про то, что важно учитывать, вписываясь в автоматизацию Вот к чему я пришла: ✖️Автоматизировать нужно рутину, а не решения То есть, на мой взгляд, лучше не передавать принятие решений ИИ-шке, потому что люди забывают, как думать)) Скорее автоматизировать стоит ручной труд типа постмитов, статусов и отчетов ✖️Без порядка в данных автоматика удобряет бардак У нас были задвоенные карточки одного контакта и сценарий умудрился отправить с них два разных предложения по цене. Клиент, конечно, заметил и просто спросил, с кем из нас ему теперь разговаривать. Короче, сначала - порядок, потом - все остальное)) ✖️Там, где есть риск, должен остаться человек Все что находится в зоне потенциальной вероятности потери клиента нужно оставлять на ответственности человека Это важно, потому что, какая бы крутая автоматизация ни была, она долгое время требует трепетного контроля В общем, всем желаю, чтоб все шло как по маслу в автоматизации!