Anthropic готовит Claude, который лучше распознаёт намерения пользователей

Даня готовит ИИ, который знает, чего вы хотите. Возможно, раньше вас самих. Простите, много букв, ибо тема огонь.  Помните фильм "Особое мнение" (Minority Report) с Томом Круизом? Там специальная система предсказывала преступления ещё до того, как люди успевали их совершить. Полиция арестовывала вас за то, чего вы пока даже не сделали. По информации The Information, Anthropic готовит новую модель Claude, которая особенно хорошо распознаёт истинные(?) цели пользователя, даже если тот сам толком не объяснил, чего хочет. Источник, уже опробовавший модель, утверждает, что она также значительно лучше находит нестандартные решения вместо привычных шаблонных советов. И вот два примера из публикации. Первый - программирование. Вы просите ИИ исправить конкретный баг. Но вместо того, чтобы просто поправить несколько строчек, модель определяет целый класс проблем, из-за которых возникла ошибка, находит их общую причину и предлагает устранить всё семейство подобных ошибок. Вы просили починить одну функцию. А ИИ уже понял, что на самом деле вы хотите надёжную систему, и предлагает переделать её целиком. Тут мне, конечно, приходит в голову старую шутку. Впрочем, нет, даже не шутку, а мнение про индийского и славянского программиста.  Первый видит баг-репорт, лезет, исправляет конкретную строчку в коде, закрывает, идет дальше.  Второй видит ошибку, исправляет код всей функции, потом переписывает класс, потом говорит: И вообще ваш код говно, переписывает половину кода, закрывает, идет дальше. После этого в этом месте всё работает идеально и в десять раз быстрее, но в других местах может начать отваливаться.  Второй - инвестиции. Вы спрашиваете, как лучше инвестировать в акции. Вместо стандартных рекомендаций изучать P/E, финансовую отчётность и диверсифицировать портфель модель может самостоятельно придумать оригинальные(???) алгоритмы прогнозирования движения котировок. Ну, за криптанов!! Тут я, конечно, взоржал аки конь. Ибо... ну вы сами знаете, что ибо.  Что вообще за хрень теперь "распознаванием намерений"? До сих пор взаимодействие с тупым ИИ в основном строилось вокруг сформулированной задачи: вы объясняете, чего хотите, а модель пытается это выполнить. Теперь акцент смещается. Умный ИИ анализирует неполную информацию, восстанавливает предполагаемые мотивы и цели, а затем предлагает решение задачи, которую вы, возможно, даже не собирались формулировать. И вот здесь вспоминается знаменитый эксперимент Бенджамина Либета 1983 года. Либет обнаружил, что электрическая активность мозга, связанная с подготовкой простого произвольного движения, появляется за сотни миллисекунд до того, как человек сообщает об осознанном намерении это движение совершить. Это породило неудобный вопрос: а вдруг мозг начинает готовить наше действие ещё до того, как сознание узнаёт о принятом решении? Конечно, эксперимент Либета не доказал отсутствия свободы воли, а вызвал апокалиптическое разрывание пуканов в интернете на эту тему.  И кстати, по-моему, эксперимент не смогли воспроизвести независимые исследователи.  Но параллель получается замечательная. В эксперименте Либета мозг начинал готовить действие раньше, чем кожаный осознавал своё намерение. А теперь ИИ формулирует конечную цель раньше, чем человек успел её сформулировать. И если раньше агенты и ассистенты соревновались в том, насколько точно они выполняют наши тупые инструкции, то теперь начинается соревнование за способность понимать наши влажные хотелки без инструкций вообще. Раньше ИИ заканчивал за нас предложения. Теперь он будет заканчивать за нас мысли. И желания.  Ну, и напосошок реальная история. мой сосед Юра создал в клоде проект и прописал пять раз в инструкциях о том, что ни при каких обстоятельствах, никогда в этой жизни не использовать файлы и папки вне этого проекта, то есть вне локальной папки. Ну, как бы запретил доступ всеми мыслимыми и немыслимыми способами, кроме как на уровне операционной системы, к любым ресурсам вне папки проекта.  В какой-то момент Клод говорит: Лови отчет по теме. Я положил его на Десктоп.  Юра такой: Чо?  Внимание, ответ Клода: “Ой.”  Юра: Шозахрень, тварь? Клод: Я просто подумал, что так тебе будет удобнее открывать файл.  Ну и я также уже год назад писал о том, что в наших сообщениях к ИИ содержится много, скажем так, невербалки. Прежде всего в голосовых сообщениях ИИ прекрасно считывает интонацию, настроение, эмоции и, в общем, использует это параллельным слоем интерпретации. Но даже когда вы пишете своими непрямыми ручонками сообщение с ошибками, то он определяет ваше психоэмоциональное состояние по подбору слов, по порядку расположения слов, по количеству запятых и по многим другим паттернам, о которых вы даже не задумывались.  У меня пожалуй всё. Пойду спрошу у Клодо, что же я на самом деле хотел сказать.   https://www.theinformation.com/newsletters/ai-agenda/anthropic-readies-model-reads-users-intentions-better @cgevent