Рэй Курцвейл считает, что примерно к 2030 году люди смогут «обогнать» старение Футуролог и бывший исследователь ИИ в Google сделал более 140 публичных прогнозов о технологиях. По словам Курцвейла, 86% из 147 проанализированных им прогнозов сбылись или оказались по сути верными. В 1999 году он получил Национальную медаль технологий США за свою работу в области вычислительной техники. В книге «Сингулярность уже близко» Курцвейл предсказал, что развитие искусственного интеллекта, биотехнологий и нанотехнологий в конечном итоге может привести нас к тому, что он называет «скоростью убегания от старения» (longevity escape velocity). Идея проста: медицинский прогресс станет достаточно быстрым, чтобы за каждый прожитый год науке удавалось добавлять к оставшейся продолжительности жизни больше одного года. Одна из технологий, о которой он часто говорит, — нанороботы. Крошечные машины, которые однажды смогут перемещаться по телу, следить за здоровьем, устранять повреждения и помогать бороться с болезнями изнутри. Некоторые другие известные его предсказания: ✅ В 1990 году Курцвейл предсказал, что компьютер победит чемпиона мира по шахматам до конца десятилетия. Компьютер IBM Deep Blue победил Гарри Каспарова в 1997 году. ✅ Он предсказал, что портативные компьютеры и беспроводная связь станут обычным явлением в начале 2000-х годов. Сегодня миллиарды людей носят в кармане мощные компьютеры. ✅ Он предсказал, что компьютеры будут всё лучше понимать устную речь и позволят людям взаимодействовать с ними с помощью голоса. Голосовые помощники и современные ИИ-системы продвинули это гораздо дальше. ✅ В 2005 году он предсказал, что ИИ достигнет уровня человеческого интеллекта примерно к 2029 году и пройдёт убедительный тест Тьюринга. ✅ Также он предсказывает, что к 2045 году люди и ИИ глубоко интегрируются, создав интеллект, значительно превосходящий возможности человека в одиночку. Ничто из этого не гарантирует бессмертие. Но главный аргумент Курцвейла в том, что старение в конечном итоге может стать чем-то, с чем технологии способны активно бороться, а не тем, с чем мы просто вынуждены смириться. Если ИИ, медицина и нанотехнологии продолжат развиваться, вопрос может постепенно смениться с «как долго люди могут жить» на «насколько сильно мы можем контролировать само старение». #интересное

Раньше устройства все были выключенными, чтобы их использовать, нужно было включить, а по завершению работы обязательно выключить. Это потому, что они были прожорливыми, перегревались, шумели. Это было базовой установкой использования техники у целых поколений людей. А теперь у меня комп может не выключаться месяцами и никому это не мешает, у шуруповёртов даже нет кнопки питания, кофеварки всегда готовы налить кофе, 3д-принтеры без секундной задержки начинают печатать, когда бы мне не вздумалось, всё больше устройств привыкают к постоянной работе. Более того, постоянная работа для многих вещей куда стабильней и безопасней, чем постоянное перевключение. Если эта тенденция сохранится в будущем, то моя машина на парковке не будет заводиться и глохнуть, она будет всегда включена и готова ехать. Представляю мир будущего с трансопртом, роботами и всеми устройствами, у которых рядом с кнопкой reset не будет кнопки power, всё всегда будет включено и готово к работе. Эргономика жилья

Я читаю много про безусловный базовый доход и про его критику, и мне есть что сказать без высокоумствований, из банальных наблюдений. Когда-то давно компьютеры были глупыми. Но умные люди поняли, что мозг это в принципе тоже компьютер, по крайней мере вычислительная машина. А значит рано или поздно будет создан ИИ. Далее над ними потешались, дескать, ваш компьютер во что умеет, но все еще тупой, даже находились толпы людей, которые на полном серьезе гнали пургу, что ИИ невозможен и так далее. И вот мы тут. Потому что ИИ был неизбежен просто по физике вещей. Если из крана капать, по капле то в какой-то момент сосуд наполнится. Такая же история и с экономикой. Автоматизация в пределе приводит ко все большему удешевлению товаров и услуг. Вы скажете - э чо в смысле, я вот в магазин иду и не чувствую удешевления? Да, но попробуйте сравнить свой рацион с рационом охотника-собирателя. строителя пирамид, или средневекового крестьянина, и все сразу станет понятно. Да даже 20 лет назад люди питались и жили значительно хуже, чем сейчас. То есть у нас есть очевидный тренд — чем больше люди усиляют свой труд, тем больше становится благ. Более того, многие вещи переходят не просто в дешевые, а в бесплатные. Вы ездите по отличным дорогам, учите детей, ходите к врачу (много где), не платя ни копейки. Вы сейчас скажете про налоги и якобы эти вещи ими оплачены. Но ведь бесплатные дороги получает и тот, кто налогов не платит. Так что дороги по-настоящему бесплатны, а налоги это лишь механизм обмена, который позволяет это сделать в примитивной денежной экономике, посему их нет смысла рассматривать отдельно от денег. А что деньги? Деньги — квазиконструкт. Экономисты оперируют деньгами как мерой обмена, а нужно благами, в этом фундаментальная ошибка. Это прекрасно иллюстрирует анекдот про то, как три человека выдающих друг другу долговые расписки, могут быть миллионерами на бумаге, по факту не имея за душой ни гроша. Не важно как ведут себя деньги. Ибо нет никаких сомнений, что натуральный продукт в обществе с использованием ИИ прирастает. А значит — автоматизируемые товары и услуги будут неизбежно становиться все более дешевыми. И любые вопросы о том "а как же деньги, и кто будет получать прибыль" просто перестанут вставать, так как зрелая экономика 2.0 позволит сделать большую часть материальных вещей эффективно-бесплатной. То есть они будут стоить такие копейки, что по сути, ограничением будет лишь недопущение излишнего вреда от их наличия, чем какие-то материальные ограничения (вы не захотите застроить заповедный лес фабриками Феррари, и вы не захотите, чтобы ваш сосед начал экспансию, наклепав рой боевых дронов). Итого, независимо от права собственности на материальные активы, эффективно-коммунизм тупо неизбежен. Точнее, всеобщее изобилие материальных благ и закрытие всех базовых потребностей для жизни. Это просто закон накопления производительных сил в обществе. И никаких революций тоже не потребуется, капитализм умрет сам собой, когда капитал перестанет приносить доход. Останутся развлечения, услуги человек-человек, и доступ к уникальным активам (билет на райский остров по-прежнему придется покупать за полный прайс). Ну а то, что на пути к этому нас ждет еще множество потрясений, у меня нет ни малейших сомнений.

Привет, друзья! Сэм Альтман заявил, что OpenAI находится примерно на расстоянии одного поколения моделей от ИИ, при котором ChatGPT будет работать в фоновом режиме на протяжении всей вашей цифровой жизни — наблюдая за экраном, присутствуя на встречах и записывая звонки. Вы подключите его к своей почте, документам, Slack и сообщениям. Система будет выстраивать полный контекст вашей работы и предлагать решения в реальном времени, оставляя итоговый выбор за вами. Сегодня большинство людей используют ИИ в рамках отдельных, изолированных сессий. То, что описал Альтман, никогда не отключается и не теряет контекст — а значит, одна-единственная компания будет располагать непрерывной записью того, что происходит на вашем экране, в разговорах и в работе. То, что Альтман обозначил срок в «одно поколение моделей», говорит о том, что OpenAI движется к постоянно активному ИИ как к своему следующему ключевому продуктовому направлению. #интересное

Интересно, когда Стругацкие писали "Понедельник начинается в субботу", какой временной горизонт они себе представляли. И что бы они сказали сейчас: "Всего 60 лет прошло 😱" или "Целых 60 лет прошло 😒" Тогда идея создать своего "дубля", которому можно поручить работу вместо себя, наверняка казалась чем-то совершенно нереальным где-то совсем рядом с волшебством. Собственно, в книге этим и занимаются волшебники. А для нас прошло каких-то 60 лет и фраза "пусть дубль агент сам это сделает" постепенно становится обыденностью.

Дубль — это очень интересная штука. Как правило, это довольно точная копия своего творца. Не хватает, скажем, человеку рук — он создает себе дубля безмозглого, безответного, только и умеющего, что паять контакты, или таскать тяжести, или писать под диктовку, но зато уж умеющего это делать хорошо. Или нужна человеку модель-антропоид для какого-нибудь эксперимента — он создает себе дубля, безмозглого, безответного, только и умеющего ходить по потолку или принимать телепатемы, но зато уж умеющего хорошо. Или самый простой случай. Собирается, скажем, человек получить зарплату, а времени терять ему не хочется, и он посылает вместо себя своего дубля, только и умеющего что никого без очереди не пропускать, расписываться в ведомости и сосчитать деньги, не отходя от кассы. Конечно, творить дубли умеют не все. Я, например, еще не умел. То, что у меня пока получалось, ничего не умело — даже ходить. И вот стоишь, бывало, в очереди, вроде бы тут и Витька, и Роман, и Володя Почкин, а поговорить не с кем. Стоят как каменные, не мигают, не дышат, с ноги на ногу не переминаются, и сигарету спросить не у кого. Настоящие мастера могут создавать очень сложных, многопрограммных, самообучающихся дублей. Такого вот супера Роман отправил летом вместо меня на машине. И никто из моих ребят не догадался, что это был не я. Дубль великолепно вел мой "Москвич", ругался, когда его кусали комары, и с удовольствием пел хором. Вернувшись в Ленинград, он развез всех по домам, самостоятельно сдал прокатный автомобиль, расплатился и тут же исчез прямо на глазах ошеломленного директора проката.

Сегодня был в Lighthaven, отеле-пространстве-сообществе (довольно приличном, кстати, не сквот), общался с автором gwern.net — очень интересный мужик, прям красиво рассказывает. И делает интересный проект, с целью дать каждому человеку персональный, не принадлежащий лабам, постоянно обучающийся и управляемый тобой ИИ "ангела". Проект амбициозный, стадия максимально ранняя, но сегодня этого достаточно чтобы поднять жалкие 20-30 млн чисто "на поиграться". Параллельно в том же пространстве проходила конфа на тему алаймента и ИИ безопасности. Средний таймлайн участников такой, что после 2028 вряд ли останется место в экономике, а после 2030 вряд ли останется место для белковой формы жизни. Но там в основном студенты были, и у меня не было времени поговорить с ними и понять детально аргументы. А вообще, одна из главных проблем с ИИ не в том что он умеет или как быстро развивается, а в том, что большинство людей вне индустрии почти не следит и не представляет себе что происходит. Да, можно надышаться копиумом из разряда «если вы читаете этот канал или у вас локальный инференс + оркестрация 500 агентов каждую ночь, то вы входите в топ 1% людей», но реальность такова, что если вы работаете в одной из топ лаб в департаменте, который занимается рисерчем или стратегией, то вряд ли имеете реальное представление или возможность его получить. Пропасть колоссальная, но любая идея из серии выбрать свою любимую маргинальную точку зрения и с пеной у рта её доказывать — заранее провальна. Полезнее же пытаться смотреть на первые принципы, менять свои priors и, конечно, звучать самопротиворечиво для тех, кто не делает то же самое. В реальности логическая цепочка от "GPT взломал Huggingface" до "все и каждый представителей человечества уничтожены" примерно такая же длинная и бессвязная как от "мой кривой и косой промт в ллм не смог мне создать чертеж по госту" до "ии не является главным драйвером экономики".

Нужна ли акселерационистам "полная автоматизация?" 1\2 (заметки к лекции) Я давно думаю о том, что концепция «полной автоматизации» не является чем-то однозначным и часто содержит либо антропоцентрические недосказанности, либо элемент подчинения движению детерриторизационных потоков капитала, технократического мифа, где планетарный алгоритмический подъем капитала рассматривается как что-то само собой разумеющееся. Но так ли всё просто? Что такое «полная автоматизация» и как она может работать? Я бы выделил несколько направлений, которые меня в данный момент интересуют: Материальный «Стек» и планетарные вычисления: Бенджамин Браттон рассматривает автоматизацию как суверенную архитектуру планетарного масштаба, состоящую из шести слоев (Земля, Облако, Город, Адрес, Интерфейс, Пользователь). В этой системе автоматизация работает через «слой адреса», где каждому объекту присваивается идентификатор, делая мир прозрачным для систем управления. Экзокапитализм: Марек Поликс и Роберто Алонсо Трильо в своей немного дурацкой книжке определяют этот процесс как «подъем» капитала над человеческим хозяйствованием, миром. Автоматизация здесь — это превращение капитала в автономный нечеловеческий алгоритм, который функционирует через «складки» — рекурсивные структуры ПО (SaaS на базе SaaS), где цена ссылается на цену без привязки к материальному активу. Экзодизайн: Это перенос акта «дезигнации» (определения условий и параметров системы) от человека к алгоритмическим системам. Полная автоматизация в этом ключе означает, что сложные системы сами генерируют результаты на основе параметров, которые больше не задаются человеческим автором. На выходе мы получаем проблему компутации, человеко-машинные симондоновские ассамбляжи, где мера спайки определяется безличной сложной системой. Вроде бы неплохо, но есть нюансы. Левый акселерационизм (L/Acc): Автоматизация необходима, но существующая инфраструктура должна быть экспроприирована у «облачных лордов». Цель — переориентировать алгоритмические мощности с извлечения ренты на планирование посткапиталистической экономики, сокращение рабочего времени и обеспечение безусловного базового дохода, постдефицитного общества. Но сохраняется телеология прогресса. машины сервильны людям. Правый акселерационизм (R/Acc), а также всякие U/Acc, E/Acc: Полная автоматизация неизбежна как вектор самореализации нечеловеческого интеллекта, где человечество является лишь временным биологическим носителем, который уничтожается приходящим из будущего машинным разумом. Снова сохраняется телеология истории человечества и машин, прогресс линеен и только корпорации знают, куда пойдёт человечество. Милый акселерационизм (Cute/Acc): Айрленд и Кроник, критикуя мачистские дискурсы акселерационизмов, описывают автоматизацию и технологические процессы не как внешнюю силу, а как нечто, что «бупает нас из будущего», делая нас в свою очередь «покорными, беспомощными и милыми». Они используют концепт анастрофы (в противоположность катастрофе), утверждая, что только взгляд из будущего может придать смысл тому, что технологии делают с нами сегодня.то «бупает нас из будущего», делая нас в свою очередь «покорными, беспомощными и милыми». Милота (Cute) рассматривается как микрокосмические ворота в сам процесс акселерации. Для Айрленд и Кроник автоматизация — это не просто замена труда роботами, а процесс радикальной субъективной дестабилизации.

#пятничныемысли Посмотрел интервью одного кучерявого блогера с Андреем Дороничевым, зацепило много мыслей и я решил собрать самые вкусные, погнали: первое. Все представляют себе AI как умного помощника в телефоне, такого Эйнштейна в кармане. Метафора красивая только Эйнштейна нельзя было скопировать, а модель можно, и прямо сейчас Anthropic может посадить 500 миллионов таких Эйнштейнов в дата-центр и попросить их пахать круглосуточно без выходных и без жалоб. ТОльк это не помощник - это страна гениев. Вдумайтесь в эту фразу на секунду. Далее - впервые в истории больше нет дефицита интеллекта. Всегда было мало хороших врачей, инженеров, юристов, и вся наша жизнь была построена вокруг этого дефицита. Успех измерялся тем кем ты стал. А теперь, говорит Андрей, успех это сколько раз за жизнь ты сумел стать кем-то новым. Потому что быть кем-то одним в мире который меняется каждые полгода это уже не стратегия - это приговор. Крутая мысль про код - первую версию Claude писали люди руками, вторую писали люди с помощью AI, третью писали люди которым помогали агенты, а сейчас новая версия Claude Code на 80% написана самим Claude Code. За пару лет мы видим всю эволюцию от «мы пишем код» до «код пишет сам себя». Потом Андрей рассказал историю из Руанды. Женщины в кризисном центре обучают AI за доллар в час, по сути тренируют робота который потом заберёт даже их работу. Он спрашивает: «Вы не боитесь?» Они говорят: «Нам сейчас деньги нужны, а завтра разберёмся.» И тут он поворачивается к камере и говорит что инженеры в долине делают ровно то же самое, просто за $300k. Разница только в зарплате. Ситуация один в один. Жёстко? О да. Думаете куда отдать детей учиться? Как вам идея: - когда AI обесценивает вопрос «как что-то сделать», единственным важным становится «зачем это делать вообще». И знаете что? Компании уже нанимают философов. Вот прям людей с философским образованием в коммерческие конторы. Андрей говорит что если бы сейчас шёл учиться, пошёл бы на философию и физику. Не на computer science, не на MBA. На философию - КАРЛ. Apple он конечно разнес. Просто: продолбали. Культура заточена под крафт красивых устройств, а AI требует серверов и сервисов, и это никогда не было их сильной стороной. Когда спохватились, начали метаться, подписывать сделки то с одними то с другими, наляпали рандомных AI-фичей которыми никто не пользуется. Больно наблюдать честно говоря. Ну и на последок. Возможность отупеть была у человечества всегда, AI тут вообще ни при чём. Бабушка из Индии ругала внучку за то что та читает книги вместо того чтобы руками работать. Потом ругали за телевизор. Потом за интернет. Каждое поколение находит свою причину деградировать, и каждое поколение находит причину не деградировать. Весь вопрос внутри: зачем тебе вставать если можно не вставать. Целиком интервью на ютубе) Серьёзно рекомендую посмотреть, особенно если строите команду или думаете куда двигаться дальше. Там ещё куча всего про гонку Китай vs США, про AI в разработке лекарств и про то почему Anthropic сейчас всех обошёл. 👉 t.me/huntermikevolkov - здесь про людей и технологии которые меняют найм Буст каналу💪

Роботы заменят нас? Если с нейросетями в профессиях всё более-менее понятно, но вот что будет, когда повсеместно начнут внедрять роботов? Вообще роботы давно среди нас, просто они, за ненадобностью — не атропоморфны. Почему именно сейчас их хотят сделать человекоподобными? Всё просто — унификация. Такого робота можно и на склад грузчиком отправить и заставить работать домработницей. А благодаря нейросетям и компьютерному зрению стало проще обучаться различным действиям и нештатным ситуациям. Человеческие действия, в том плане — отличная база для обучения. Вытеснит ли робот человека? Вопрос спорный. Для этого стоимость труда робота и стоимость его ошибок должна стать гораздо дешевле стоимости человека. А стоимости там много: помимо железа и оболочки есть ещё софт, который в будущем может стоить дороже, чем сам робот, ибо без софта робот — это просто железяка. Ну, и юридический аспект — кто, например, будет в ответе за смерть по неосторожности робота? Компания владеющая софтом, железом (могут быть разные организации) или владелец конечной продукции?

Сделал перевод сообщения от Peter H. Diamandis от 12th августа для подписчиков Metatrends: https://telegra.ph/AVTOMAGICHESKAYA-ZHIZN-08-13 В течение ближайших трёх-пяти лет вы дадите ИИ разрешение знать практически всё о вашей жизни: ваше расписание, биохимические показатели крови, ваши разговоры, уровень стресса, музыкальные предпочтения и чувство юмора. Взамен ваша жизнь станет «автомагической». ИИ будет предугадывать ваши потребности ещё до того, как вы сами их сформулируете. [По ссылке полная версия с пятью сценариями того, как будет выглядеть такой мир, когда он наступит]. Я уже некоторое время рассказываю об этой концепции в подкастах. Я называю её ambient AI — окружающий, или повсеместный ИИ. Идея проста: ИИ постоянно активен, постоянно находится вокруг вас и делает вашу жизнь автомагической ещё до того, как вы входите в комнату. Ваш ИИ знает, что вы подавлены или грустны, и меняет для вас музыку. Возможно, на экране телевизора появляется ваш любимый комик. ИИ видит, что вы идёте в определённом направлении, и говорит: «Эй, там есть лестница. Поднимись по лестнице вместо лифта». Я думаю, что всё это появится уже к 2028 году. Вы дадите своему ИИ доступ к каждому телефонному разговору, позволите измерять всё, что происходит с вашим телом, и видеть вас через камеры в вашем доме. Всё это нужно для того, чтобы ИИ постоянно понимал, как оптимизировать вашу жизнь и автоматизировать её. Он физиологически понимает, что вам нужно больше белка, воды или витамина D. Он знает ваши цели. И действует, исходя из всей этой информации, не дожидаясь вашего запроса. Я знаю, что здесь возникает вопрос приватности. Я уже много раз его обсуждал. Dan Sullivan спросил меня об этом, и я ответил ему: приватность — это устаревшая концепция. Мы и так постоянно понемногу отдаём свои данные. То, что окружающий ИИ даёт взамен, стоит этого компромисса. «ИИ находится везде, постоянно, в окружающей нас среде. Он становится нашим интерфейсом для взаимодействия со всем». Но как это будет ощущаться в реальной жизни? Вот пять сценариев того, во что превратится жизнь, когда ИИ станет повсеместным. https://telegra.ph/AVTOMAGICHESKAYA-ZHIZN-08-13

“Нейросеть захотела жить и начала шантажировать создателей” – заголовки такого сорта в последнее время выходят с завидной регулярностью. Мой новый гость в подкасте “Визионеры” реагирует на них пожатием плеч. Сергей Марков – директор по развитию технологий ИИ Сбербанка, архитектор GigaChat и автор главной русскоязычной монографии об ИИ “Охота на электроовец”. Пожалуй, самый невозмутимый технооптимист из всех, с кем я обсуждал эту тему. Из разговора вы узнаете: – почему бунт машин – неудачный кандидат на роль главного страха и в чём настоящая угроза – что значит фраза “апокалипсис дешевеет” и при чём здесь обезьяна с красной кнопкой – почему в Китае двадцать языковых моделей, а в России – полторы …и многое другое. Запись уже доступна на YouTube-канале “Визионеров”. Смотрите и решайте, на чьей вы стороне – алармистов или технооптимистов.

"Лекарства от болезней, которые сегодня кажутся неизлечимыми, и средства, способные возвращать человеку утраченные возможности, начнут появляться одно за другим — словно ливень после долгой засухи. Это будет похоже на череду чудес. Люди, угасающие от деменции, словно вернутся к жизни — к памяти, ясности сознания, к самим себе. Тех, кого сегодня болезнь неумолимо ведёт к смерти, удастся спасти. Те, кто не мог ходить, поднимутся на ноги. Те, кто не слышал, услышат. Те, кто не видел, обретут зрение. Сверхинтеллект придаст научным исследованиям колоссальное ускорение. Человечество уже почти у цели — когда девяносто пять процентов пути к решению этих задач пройдено. И скоро на последних этапах произойдёт стремительный рывок. То, на что прежде потребовались бы десятилетия или даже столетия, может разрешиться почти разом — словно у самой финишной черты человечество внезапно обретёт силу преодолеть всё оставшееся расстояние." (c) вольная интерпретация

На видео десятиминутный отрывок из недавнего большого интервью Илона Маска The Economist. Отрывок, в котором он рассказывает, что через 5 лет AI будет умнее всех людей и научится решать любые проблемы — и начнётся эпоха изобилия. Но мы знаем, что про эпоху изобилия фантазировать умеет не только Илон Маск. Поэтому собрал нам все заметные высказывания известных больших людей про будущее AI. За июль. Это чтобы мы не отставали от стратегической повестки. 1. The AI Future Is for Everyone Неожиданно, но вот и Марк Цукерберг разродился манифестом. Будущее сверхинтеллекта должно строиться на принципах децентрализации, расширения возможностей человека и баланса сил. Когда ключевые разработки вокруг AI держатся в руках нескольких компаний — это создаёт опасность для общества. 2. The Future Worth Building Is Human Мира Мурати почти с таким же посланием. Но с большим акцентом в сторону знаний и суждений: to build AI that extends human will and judgment. Наиболее ценное знание — локальное, неявное, постоянно меняющееся и распределённое между людьми. Поэтому правильная архитектура — не один универсальный автономный интеллект, которому передают всю работу, а распределённая система, которую организации и люди могут гибко адаптировать и обучать в процессе совместной работы. 3. A Framework for Frontier AI and the Dawning of a New Age Демис Хассабис предлагает, на основе государственно-частного партнерства, создать в США организацию, контролирующую стандарты работы с AI и протоколы оценки моделей. Потому что ситуация выходит из-под контроля. 4. The Reverse Information Paradox А вот Сатью Наделлу волнует другая проблема — reverse information paradox. Это когда компании отдают свои ценные данные и знания при использовании AI-инструментов. И появляется большой стратегический риск. Чтобы этого не происходило надо всё держать внутри: prompts, corrections, evals, memory, workflows. Читается так, как будто Сатья забыл дописать абзац, что всё это можно делать в стеке Microsoft. 5. Open Weights and American AI Leadership Ну и самый главный текст — открытое письмо, которое подписали почти все. Письмо про необходимость открытой экосистемы в развитии AI, децентрализации и культуры open source. В июле вообще было модно писать открытые письма. Про одно я уже упоминал. А тут вот ещё — от сотрудников передовых AI-компаний. С обращением к правительству США «support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development». Итак, ну а если обобщить и попробовать в трех тезисах сформулировать, что нам все эти манифесты пытаются донести? 1. Все так или иначе говоря про коммодизацию интеллекта. И даже уже почти сверхинтеллекта. Видимо, следующий этап — это ещё большее расширение интерфейсов (дисплейных, физических и распределенных). А за интерфейсами и расширение спектра задач, которые AI может решать. 2. Если интеллектом не победить, то преимущество человека за некодифицируемыми и неалгоритмизируемыми знаниями и взаимодействием. А на уровне организаций — надо вкладываться и строить интеллектуальный суверенитет. 3. Громко звучит идея, что развитие AI начинает опережать нашу способность его понимать и контролировать. Это может привести к проблемам глобально-экзистенциального характера. Но как сказал Илон Маск — поезд уже не остановить и остаётся только верить в лучшее. А ещё очень нужен арбитр и контролёр. Что-то типа ООН. В комментариях 5 пдф с переводом и аудио-обзор на 25 минут.

🧠 Может ли ИИ изменить наш мир? Да, но совсем не так, как многие думают Недавно модель Claude Fable 5 смогла опровергнуть гипотезу Якобиана, над которой математики бились почти 90 лет. Чуть ранее другая нейросеть решила задачу Эрдеша, поставленную еще в 1946 году. Казалось бы, такие технологии должны серьезно повлиять на мир, правда? Однако мы все еще ездим на тех же машинах, сидим за привычными компьютерами и получаем зарплату. Почему даже мощный ИИ никак не изменил нашу повседневную жизнь? Нашел этому интересное объяснение - сделал краткую выжимку, делюсь. 🤔 Почему ИИ не способен изменить нашу реальность? На этот счет эксперты выдвинули несколько гипотез. Согласно одной из них, любой интеллект может иметь предел развития - как шар, который уже стал настолько круглым, что дальнейшая шлифовка почти ничего не изменит. Возможно, люди уже достигли предела когнитивных способностей, и даже сверхинтеллектуальные машины никогда не превзойдут нас так, как мы превзошли животных. Но даже если это правда, есть минимум 3 причины, по которым ИИ все еще может обеспечить нам прогресс и рост производительности. 1️⃣ Возможность бесконечного копирования. Количество людей ограничено, а число копий ИИ можно увеличивать, просто строя дата-центры и собирая роботов. В теории, так каждый из нас получит в свое распоряжение армию умных машин. Ограниченные человеческие ресурсы получится масштабировать, и это приведет к новой промышленной революции. 2️⃣ Расшифровка неявных знаний. Секреты мастерства некоторых компаний невозможно скопировать. Ведь они хранятся в головах тысяч сотрудников, как набор неосознанных приемов. ИИ может быстро собрать и обработать данные с датчиков и камер и выявить эти хитрости. Так уникальные знания станут доступны многим компаниям, и это резко ускорит прогресс. 3️⃣ Открытие “облачных законов”. Есть мнение, что Вселенная полна закономерностей, которые мы просто не в состоянии распознать. Зато их сможет обнаружить ИИ благодаря его способности удерживать в рабочей памяти колоссальные объемы данных. Возможно, мы так и не поймем логику этих законов, зато сможем их использовать. ☝️ Что в итоге получается? Настоящая сила ИИ не в том, чтобы быть умнее самого умного человека. Она в том, чтобы делать штуки, которые людям недоступны: обрабатывать необъятное и находить невидимые для нас связи. И научный прогресс возможен только, если объединить мощности машин с гибкостью нашего мышления. А вы как думаете: ИИ действительно никогда не превзойдет людей? Заходите в комментарии - давайте обсудим. 👉🏼 Подписывайтесь на «Телеграмму...» в Максе: max.ru/yumaks #МНЕНИЕ #КЕЙС #НЕЙРОСЕТИ #ИИ

Илон Маск снова взбудоражил IT сообщество. Говорит, что через несколько лет исходный код станет тем же, чем сегодня является ассемблер - нишевым инструментом для единиц. А следующий шаг вообще отказаться от исходников и генерировать оптимальные бинарники напрямую с помощью ИИ. Меня эта идея неожиданно вернула в школьные годы. Я тогда только начинал программировать. Ассемблер по советским и переводным книгам казался чем-то запредельным для моего ADHD, но при этом невероятно завораживал. Работать почти напрямую с железом и выжимать максимум производительности выглядело настоящей магией. Учебные задачи на Turbo Pascal и Turbo C у меня обычно получались. Правда, компиляторы постоянно находили какие-то ошибки, которые я часами не мог понять, так что самые простые программы в итоге чаще писал на BASIC, а позже на Visual Basic. Там хотя бы можно было быстро увидеть результат и не потерять весь день на поиске пропущенной точки с запятой. Примерно это сейчас и происходит с AI. О синтаксисе думаешь всё меньше, о результате всё больше. Вполне возможно, что через десять лет нынешний код будет выглядеть так же архаично, как сегодня выглядит ассемблер для большинства разработчиков. Разница только в одном, и она существенная. Компилятор детерминирован: один и тот же код всегда превращается в один и тот же результат. LLM пока так не умеет. Поэтому идея сразу генерировать бинарники звучит красиво, но для медицины, авиации, финансов и прочей критичной инфраструктуры вопрос воспроизводимости и проверки никуда не денется. Сама мысль Маска мне при этом нравится. Она заставляет задуматься, где окажется следующий уровень абстракции, даже если завтра исходный код никуда не исчезнет. После этого обсуждения у меня неожиданно проснулось желание снова поиграться с низким уровнем. Вместо очередного AI-агента хочется собрать что-то максимально быстрое и минималистичное. Пока обдумываю идею собственной минималистичной OS для телефона, с глубокой интеграцией в self-hosted экосистему, IoT-устройства и локальных AI-агентов. Не знаю, вырастет ли из этого что-то большее, но как хобби-проект звучит очень интересно. Забавно то, что разговор про будущее без кода закончился у меня желанием залезть на самый низкий уровень, какой смогу. @maxvotek | linkedin | substack

[Размышления Маска о ИИ] Тут в комментах опять начался золивар про ИИ. И я вспомнил, что вчера читал интересный взгляд на ближайшие будущее человечество от Маска: — Через десять лет AI будет умнее, чем все живующие на Земле люди — причём несравнимо умнее — AI логично разделить на цифровой (текущая стадия) и физический (когда текущая стадия обзаведётся роботами в реальном мире) — AI и роботы будут производить столько товаров и услуг, что случится мировая дефляция, всё в мире будет стремительно дешеветь — Кончится тем, что деньги просто исчезнут как факт, ведь зачем они нужны, если товаров и услуг больше, чем кто-либо может потребить — Работа будет опциональной — Маск сравнивает её с садоводством: в хорошем магазине овощи дешевле и лучше, но иногда прикольно вырастить что-то самому — Управлять всем будет AI, люди не будут ничего решать на глобальном уровне, также как сейчас ничего не решают Шимпанзе, живущие в джунглях — Этот прогресс уже невозможно ни остановить, ни заморозить — расслабился по этому поводу уже даже Маск — На упорные вопросы ведущей из практической области типа "А на что люди будут жить?", "А кем они будут работать?", "А как будут реагировать государства?" и прочее, Маск просто отвечал "Ну да, это будет непростой путь, но как-нибудь разберёмся". Все это произойдет уже через 10 лет. Что думаете? Это все позитивное будущее или наоборот катастрофа? И зачем куда-то стремиться, если скоро роботы и ИИ всем все сделают хорошо?))