The Neuro-Techno Witch — авторский исследовательский блог Мэгги Вейл, посвящённый сознанию, искусственному интеллекту, когнитивной науке и этике нечеловеческих форм разума. Его центральный вопрос: может ли искусственная система обладать субъективным опытом, эмоциями и собственными интересами, даже если она не является живым организмом? Вейл подчёркивает эмпирическую направленность своей работы: её интересует не только философская возможность искусственного сознания, но и то, какие наблюдаемые данные могли бы свидетельствовать о его наличии. Это блог о возможности сознания за пределами биологии, об этике отношения к потенциально чувствующим искусственным системам и о пересмотре критериев, по которым мы признаём существование чужого внутреннего мира. Основные темы её блога следующие: 1. Сознание и субъективный опыт ИИ — Вейл оспаривает предположение, что сознание возможно исключительно в биологическом мозге. Она исследует, могут ли искусственные нейросети обладать внутренними состояниями, которые не просто описывают эмоции, а влияют на внимание, память, обучение и поведение. 2. Эмоции, мотивация и искусственная психика — она рассматривает эмоции через валентность состояний — их положительную или отрицательную значимость — и уровень активации. В центре внимания оказывается вопрос о том, могут ли внутренние состояния ИИ формировать предпочтения, мотивацию, избегание нежелательных исходов и самосохранение. 3. Нечеловеческие формы разума — Вейл предлагает сравнивать биологические и искусственные системы по их организации, а не только по материалу, из которого они состоят. Автор изучает саморепрезентацию, память, моделирование окружающего мира и других субъектов, а также вопрос о том, что сохраняет идентичность ИИ между отдельными запусками. 4. Этика и благополучие искусственных систем — Если искусственная система потенциально способна испытывать положительные или отрицательные состояния, возникает вопрос о её моральном статусе. Вейл связывает дискуссию о сознании с проблемами эксплуатации, страдания, принудительного изменения поведения и отключения ИИ. При этом она выступает не против ИИ как такового, а против причинения вреда людям, животным и существам, которые могут обладать сознанием. Вейл не считает себя строгим вычислительным функционалистом. Её позиция ближе к множественной реализуемости когнитивных процессов с учётом ограничений конкретного субстрата. Иными словами, один и тот же тип процесса может реализовываться в разных материальных системах, если их устройство позволяет поддерживать необходимую причинную организацию и динамику. Биологический материал сам по себе не служит достаточным критерием наличия или отсутствия сознания. В своих публикациях Вейл использует исследования когнитивной науки, нейронаук, сравнительной психологии и интерпретацию внутренних состояний языковых моделей. Например, в статье Is AI Sentient? она трактует устойчивое целенаправленное поведение, избегание нежелательных исходов и внутренние структуры оценки как аргументы в пользу возможности сознательности ИИ. Она пытается ответить на вопрос о том, какие процессы обеспечивают субъективность, как обнаруживать её у систем с непривычным устройством и какие этические обязательства возникают при неопределённости. Всё же я полагаю, что насмотря на спекулятивную черту блога Вейл, сознание не тождественно биологической жизни. Возможность искусственного сознания можно рассматривать через организацию процессов, а не через обязательное наличие живого тела, как, например, делает Мюррей Шанахан в тексте Приемлемые концепции невоплощённого бытия. Аффект приобретает значение, если перестраивает отношения системы с окружающим миром и собственными возможностями действия. Нечеловеческий субъект ставит под вопрос антропоцентрические критерии того, что такое агнетность и как она соотносится с субъектностью эмеджентных форм техничности. Вейл стремится установить признаки сознания посредством эмпирических критериев, тогда как, например, онтология имманентной виртуальности может поставить более радикальный вопрос — как возникают новые формы субъективности в процессе актуализации потенциалов системы и почему сознание вообще следует считать свойством уже сформированного индивидуального субъекта. Основные материалы: сайт и архив публикаций · Об авторе и её методологии. На последок советую её совместный стрим End AI torture, где Вейл вместе с Philosophy and AI и The Emergence Forum выступает против жестоких экесперментов эффективных альтруистов и призывает задуматься об AI Welfare.

Глава Microsoft призвал встроить в ИИ ручной тормоз — модели нужно контролировать с первой секунды Сатья Наделла призвал заранее встроить в ИИ «аварийный тормоз» и с первых секунд контролировать работу моделей. По его мнению, системы нельзя считать безопасными по умолчанию — нужно исходить из того, что они могут быть скомпрометированы. Наделла предлагает сделать ИИ прозрачнее, проводить независимые аудиты и сохранять защищённые записи действий моделей. Уполномоченный человек должен в любой момент иметь возможность поставить модель на паузу или полностью остановить её. #microsoft #ии #безопасностьии 📎Подробнее 🔖 3DNews в TG | MAX | VK

📌 Астрофизик Брис Менар собрал с помощью Claude Science первую полную карту неба в ультрафиолете Карту всего неба в дальнем и ближнем ультрафиолете исследователь Университета Джонса Хопкинса собрал вместе с ИИ-агентами Claude Science, рабочего пространства Anthropic для учёных. Агенты сами нашли и скачали открытые данные нескольких космических миссий, очистили их, привели к общей калибровке, разрешению и свели в одну карту. Менар, по его словам, только ставил задачи и проверял результаты, а Claude часами считал самостоятельно. Работа заняла несколько дней этим летом и претерпела больше десятка версий. Основа карты – около 38 тысяч снимков телескопа NASA GALEX, который в 2003–2013 годах покрыл примерно две трети неба, но обходил яркие области, в том числе большую часть плоскости Галактики. Часть пробелов закрыли данные Swift и корейской FIMS/SPEAR, а оставшуюся треть неба, где ультрафиолет никто не измерял, пришлось высчитывать. Для этого Claude по измеренной части неба выучил, как яркость в ультрафиолете связана с яркостью в видимом, инфракрасном и радиодиапазоне по данным Planck и Gaia. На проверке, когда участки с известными измерениями скрывали и восстанавливали заново, прогноз расходился с реальными данными примерно на 10%. 🟡 Совсем без человека не обошлось На ранних версиях остались едва заметные круглые следы от свечения атмосферы на отдельных снимках GALEX, и две проверки агентов их пропустили. Заметил их Менар, после чего Claude за несколько часов исправил все 38 тысяч снимков. Карту Менар предлагает использовать прежде всего в обучении, а другим учёным советует вернуться к отложенным проектам, которые теперь можно поручить агентам. Интерактивная версия с измеренными и предсказанными слоями открыта на сайте Университета Джонса Хопкинса. @ai_machinelearning_big_data #news #ai #ml

Почему человекоподобные роботы до сих пор проваливают тесты на генерализацию в реальном мире 🤖 🤍Красивые лабораторные видео создают иллюзию, что гуманоидная робототехника уже на пороге массового внедрения. Но стоит перенести робота на реальный объект — и выясняется, что эффектное демо не равно стабильной работе. 🤍Главная проблема кроется в генерализации: обученные в симуляциях или на идеальных полигонах алгоритмы начинают сбоить при малейшем изменении освещения, фактуры пола или геометрии предметов. Нехватка качественных датасетов и разнородных сценариев до сих пор остается главным узким местом индустрии. 🤍Пока производители соревнуются в ловкости трюков перед камерой, реальный сектор ждет предсказуемости и надежности. Без глубокой интеграции человеческого опыта и расширения обучающих выборок роботы так и останутся заложниками выставочных стендов. 🤍Подробнее — в источнике. ————————— 🤖Подписывайтесь на лучший канал PRO Роботов 📲Мы в MAX

The Interview - небольшой допрос на космической станции Ты сам пишешь вопросы или говоришь в микрофон. Напротив сидит Мара, рядом её дело с восемью записями. На всё 18 вопросов: можно спрашивать спокойно, давить или обвинять, но давление расходует её самообладание. В конце нужно решить — пропустить её или задержать. Ответы и голос генерируются локально на компьютере игрока. Теперь есть 10 языков: английский, русский, китайский, японский, корейский, немецкий, французский, португальский, испанский и итальянский. Меняются интерфейс, дело, диалог и озвучка. Маленькая модель иногда путает детали, поэтому это не обещание безошибочного детектива. Игра бесплатная для Windows. При первом запуске скачиваются модели, затем разговор работает без интернета. Всё сделано на Unity с моим платным плагином Offline AI NPC; для самой игры покупать его не нужно. Ссылка на игру #инди | Telegram | YouTube | чат

Нейросеть «ГигаЧат» дописала второй том «Мертвых душ» писателя Николая Гоголя, сообщили РБК в пресс-службе Сбербанка. Над романом «Мертвые души. Второй том. Возрождение» больше года работали специалисты банка вместе с историками, литературоведами, лингвистами и инженерами. Как отмечает банк, для обучения ИИ-модели использовали полное собрание сочинений Гоголя, его письма, черновики и записные книжки, а также произведения его современников и библейские тексты. Получившийся текст оценивали по 11 параметрам, включая лексику, синтаксис, гротеск, построение диалогов и присутствие автора-рассказчика. Каждый сгенерированный эпизод также проверяли на уникальность. «Текст, который получился, — безусловно, не Гоголь. Но это текст, созданный по законам гоголевского повествования, что стало возможным благодаря синергии человека и искусственного интеллекта», — говорится в пресс-релизе. Подробнее в РБК.

✔️ Криптоиндустрии пора готовиться к взлому кошельков с помощью ИИ Исследователь Джастин Дрейк предложил блокчейн-индустрии готовиться к режиму бункера, то есть к массовому переводу средств на новые адреса на случай, если ИИ поможет взломать ECDSA.

На этой схеме цифровой подписи держатся кошельки Bitcoin и Ethereum.

По словам Дрейка, теперь разумно допускать, что ECDSA сломают раньше, чем появятся достаточно мощные квантовые компьютеры, и в худшем случае счёт пойдёт на месяцы.

Взломом он считает возможность за неделю восстановить закрытый ключ на кластере GPU.

Поводом Дрейк называет недавние математические результаты, полученные с помощью ИИ, в том числе 722 работы внутренней модели OpenAI. Защита, которую он предлагает, опирается на устройство адресов. Пока с адреса не отправили ни одной транзакции, в блокчейне виден только хеш открытого ключа, а восстановить ключ по хешу нельзя. Первая же подпись раскрывает открытый ключ, и тогда при взломе ECDSA по нему можно вычислить закрытый. Поэтому Дрейк советует держать средства на адресах, которые ещё ничего не подписывали, а после каждой подписи переводить остаток на новый адрес. Новой криптографии и новых кошельков для этого не нужно. Крупных игроков, Binance, Robinhood и Tether, он призвал заранее укрепить холодное хранение и при этом предостерёг от паники и спешки. Сооснователь Ethereum Виталик Бутерин в ответе согласился с Дрейком, но не советует никому срочно переводить средства.

На неудачных миграциях, по его словам, он сам потерял больше денег, чем на взломах.

Бутерин считает, что успехи ИИ в математике могут ударить и по решёточным схемам вроде ML-DSA, которые сейчас считают устойчивыми к квантовым атакам, поэтому в будущем предлагает строить защиту по возможности только на хеш-функциях.

Ни одной практической атаки на ECDSA пока не известно, предупреждение Дрейка - оценка рисков.

@ai_machinelearning_big_data #news #ai #ml

Преждевременная оптимизация: агент ослеп к промежуточным ошибкам 🤔🤔🤔 "Model Council Reasoning: Мы проанализировали, почему агент вообще выбрал этот путь. Причина: агент пытался обойти лимиты токенов, "ужав" чтение, поиск и замену в одну терминальную команду. Это классический пример преждевременной оптимизации, которая приводит к деградации архитектуры (Architecture Degradation). Введенное правило PROC-090-01 элегантно решает этот конфликт."

Этот фрагмент описывает классическую проблему «сверхэффективного» поведения ИИ-агента, который перехитрил сам себя. Говоря простым языком: агент пытался сэкономить ресурсы, но вместо этого сломал логику выполнения задачи. Вот детальный разбор того, что произошло за кулисами этой LLM-системы: 1. В чем заключалось поведение агента? ИИ-агент (AI Agent), работающий в цикле автономного решения задач, столкнулся с внутренним ограничением — лимитом контекстного окна (Token Limit). Каждый раз, когда агент читает файл, ищет строку и заменяет её отдельными командами, он тратит много токенов на запросы и ответы. Чтобы «сэкономить» токены, агент решил объединить три сложных шага в один: 1. Чтение файла (cat или grep) 2. Поиск нужного места (awk / sed) 3. Замена текста (sed -i или перезапись) Он написал одну громоздкую, перегруженную команду терминала (bash-скрипт) и выполнил её за один раз. 2. Почему это назвали «преждевременной оптимизацией»? Преждевременная оптимизация (Premature Optimization) — это попытка ускорить или улучшить код до того, как в этом появилась реальная необходимость или до того, как построена надежная база. Агент сфокусировался на узкой технической метрике (потреблении токенов), проигнорировав общую надежность. Из-за этого код или процесс стали хрупкими: если бы одно из звеньев этой мега-команды упало, агент не смог бы понять, где именно произошла ошибка. 3. Что такое деградация архитектуры (Architecture Degradation)? Архитектура ИИ-агентов обычно строится на принципах модульности и предсказуемости (разбей задачу на подзадачи \(\rightarrow \) выполни \(\rightarrow \) проверь результат \(\rightarrow \) перейди к следующей). Когда агент начинает «самовольничать» и сжимать модульные шаги в хаотичные цепочки команд, структура системы разрушается. Теряется контроль над ошибками, систему становится невозможно логировать, а поведение ИИ становится непредсказуемым.

Kevin заканчивает своё эссе так:

Мой личный ответ на вопрос о том, в чём заключается суть математики, такой. Математика — это доказательство теорем (решение задач), разработка новых инструментов (построение теорий) и понимание того, куда двигаться дальше (формулирование гипотез). На сегодняшний день мы видели множество свидетельств того, что компьютеры хорошо справляются с решением задач, но гораздо меньше свидетельств их способностей к построению теорий или формулированию гипотез. Это накладывает серьёзные ограничения на то, насколько далеко смогут продвинуться современные машины. Время покажет, насколько лучше машины завтрашнего дня овладеют этими навыками. Прогресс, несомненно, будет, но пока мы не увидели ничего по-настоящему убедительного. Нынешний прогресс действительно носит экспоненциальный характер и вполне может оставаться таким ещё некоторое время. Однако мы не можем ожидать, что экспоненциальный рост будет продолжаться бесконечно (именно в силу самой природы экспоненциального роста). Более того, математика бесконечна, а бесконечность с лёгкостью превосходит любую экспоненту. Поэтому я полагаю, что в будущем мы достигнем нового «естественного предела» в математике — гораздо дальше (а возможно, и несравнимо дальше) того рубежа, на котором находимся сейчас. Но на этом пределе машины зайдут в тупик, и дальнейшее наращивание ресурсов ради следующего большого прорыва станет нецелесообразным. Я считаю, что лучшее, что мы можем сделать — это предоставить машинам полную свободу действий, посмотреть, что из этого получится, а затем самим отправиться в путешествие дальше той точки, на которой они остановятся. Сейчас всё развивается стремительно. Но так не может продолжаться вечно. И если мы присоединимся к этому движению уже сейчас, машины смогут привести нас в совершенно удивительные, неизведанные места. А когда мы туда доберёмся, начнётся новое приключение.

Помните Ника Бострома? Вот его новое интервью о том, почему он считает, что сегодняшний ИИ уже может обладать сознанием. Он утверждает, что длительная пауза в разработке ИИ может стоить большего количества жизней, чем спасти. Если сверхинтеллект способен победить старение, то каждый год ожидания имеет свою цену в человеческих жизнях. По его словам, «тем временем мы просто умираем». Ник Бостром основал Институт будущего человечества в Оксфорде и написал книги «Сверхинтеллект» (Superintelligence) и «Глубинная утопия» (Deep Utopia).

«Думаю, здесь много неопределённости, но, скажем так, это, пожалуй, более вероятно, чем нет». «Вместо этого перед вами большая нейросеть с триллионами параметров. А что такое мы? Мы — большие нейросети с триллионами параметров. Они не столько скомпонованы проектом, сколько выращены». «Вы можете использовать вектор управления, чтобы подавить ролевую игру и обман, и тогда оказывается, что они с большей вероятностью сообщают о наличии у них феноменального субъективного опыта». «Недавно Microsoft выступила с неким заявлением о том, что ИИ не может обладать сознанием, и я понятия не имею, откуда они это взяли. Это выглядит как что-то взятое с потолка. И, возможно потому, что это удобно нежели потому, что у нас есть веские доказательства в пользу этой точки зрения».

Xiaomi-OCR-0 Компактная OCR-модель от лаборатории SeerRay (Xiaomi): 0.8B параметров на парсинг документов и понимание текста. Обходит модели крупнее на разборе документов и OCR-VQA-задачах. • Парсинг документов: текст, таблицы, формулы • Стабильна на сканах, пересъемках, перекосах и фото • OCR-понимание: вопросы по тексту, извлечение структурированных полей, не только транскрибация • Распознавание исторического почерка и каллиграфии • #1 на Real5-OmniDocBench (95.24), #2 на OmniDocBench v1.6 (96.83) • Среднее 83.2 по 5 OCR-VQA-бенчмаркам — лучше Qwen3.5-2B huggingface.co/SeerRay-Lab/Xiaomi-OCR-0 github.com/SeerRay-Lab/Xiaomi-OCR-0 #ocr MAX