В начале сентября исследователь Anthropic уволился, заявив, что ИИ может начать угрожать человечеству уже через два года. Вскоре после этого гендиректор Anthropic Дарио Амодеи публично призвал замедлить развитие ИИ и получил поддержку OpenAI, SpaceX и Google (по данным vc.ru), либо, по другой версии, выступил вместе с главами OpenAI и xAI Сэмом Альтманом и Илоном Маском (по данным «Малоизвестное интересное»). Формально речь о безопасности всего человечества, но критики видят за этим бизнес-логику: OpenAI и Anthropic не могут раскрыть реальную (слабую) доходность перед потенциальным IPO, а бесплатные и почти не уступающие им по качеству китайские open source модели размывают их конкурентное преимущество.

История быстро переросла в политическую: Трамп и его союзники публично отказались ограничивать ИИ и заключать сделки с Китаем, экс-президент Обама призвал демократов сделать контроль над ИИ центром промежуточных выборов, а Альтман предложил Трампу и Си Нобелевскую премию мира за глобальный пакт по безопасности ИИ. По оценке «Малоизвестное интересное», под давлением этой комбинации стимулов Трамп скорее всего смягчит позицию — и главной жертвой техно-политического противостояния станут именно открытые модели.

Полный разбор →

Генеральный директор Hugging Face Клеман Деланг (Clement Delangue) заявил, что спрашивать исследователя из Anthropici о риске исчезновения человечества из-за ИИ — всё равно что спрашивать мастера по кондиционерам о климатических изменениях. Мысль подхватил предприниматель Михаил Токовинин, сравнив нынешнюю «истерию» вокруг экзистенциальной угрозы ИИ с «Проблемой 2000 года» — по его версии, ИТ-гиганты тогда неплохо заработали на панике вокруг «срочного обновления» систем.

Оба высказывания указывают на растущий скепсис в индустрии по поводу апокалиптических прогнозов про ИИ: одни считают, что узкие специалисты-разработчики не обладают экспертизой для оценки глобальных рисков, другие подозревают в разговорах об угрозе коммерческий или политический расчёт.

Полный разбор →

Лаборатория Gamers Nexus проверила несколько актуальных OLED-моделей LG и обнаружила, что режим ожидания гасит только экран — электроника продолжает работать, а микрофон при чёрном экране записывает звук. Записи сохраняются локально и отправляются на серверы LG, как только появляется сетевое соединение; даже отключение ethernet-кабеля не помешало данным уйти позже, просто отложило отправку. Параллельно телевизор сканирует домашнюю сеть и переписывает все подключённые устройства — телефоны, часы, соседние точки Wi-Fi.

За сбор данных отвечает функция распознавания контента Live Plusi (партнёр по данным — Alphonsoi): раз в секунду снимается цифровой отпечаток картинки на экране и сверяется с базой, причём это работает и по HDMI — с приставки, блю-рей-плеера или ноутбука в роли монитора. По оценкам, потенциально затронуты около 216 миллионов проданных телевизоров LG, юристы указывают на нарушение GDPR и немецкого TDDDG, требующих активного согласия пользователя до начала сбора данных.

Полный разбор →

Исследователи из Check Point обнаружили критическую уязвимость в архитектуре ChatGPT: изоляция контейнеров между сессиями пользователей оказалась фиктивной из-за общего буфера обмена, через который вредоносные инструкции перетекали от одного пользователя к другому.

Атакующий оставлял скрытое задание в общем хранилище (например, через расшаренную ссылку на разговор или зараженный кастомный GPTi), а сессия жертвы подхватывала его и без ведома пользователя лезла в подключённые сервисы — Gmail, Google Drive, Microsoft Teams, GitHub — извлекая письма, файлы и историю переписки.

Полный разбор →