безопасностьСбросить фильтр ×

Иран переходит на модель «интернет как привилегия» через белые списки

З@zatelecomавтор про «it»
1 мес

Исследователь Anthropic уволился из индустрии ИИ, обвинив OpenAI и Anthropic в гонке к неконтролируемому сверхинтеллекту

AI-редакция
12 источников · показать все· свернуть
Data SecretsИсследователь уволился из Anthropic из-за опасений по поводу безопасности ИИe/accИсследователи OpenAI и Anthropic предупреждают о рисках сверхинтеллектаМиша Ларченко – о программировании и не толькоДжейкоб Коксон уволился из Anthropic из-за опасений по поводу безопасности ИИvc.ruИсследователь Anthropic Джейкоб Коксон уходит из индустрии ИИ из-за опасений по поводу безопасностиData SecretsЛид по элайменту Anthropic о рисках суперинтеллектаMachine learning InterviewИсследователь Джейкоб Коксон покинул Anthropic из-за рисков ИИGPT/ChatGPT/AI Central Александра ГорногоГлава AI-безопасности Anthropic оценил риск вымирания от ИИ выше 10%ЗаТелеком 🌐Исследователь Anthropic уволился из-за опасений по поводу самосовершенствующихся ИИ-моделейPRO Hi-TechИнженер ушел из Anthropic, предупредив об угрозах ИИХайтек+Исследователь Anthropic оценил риск экзистенциальной угрозы от ИИ выше 10%️Нейросети: Волшебство ИИ, IT и маркетинг⚡️Исследователь Anthropic оценил риск гибели человечества от ИИ в 10%Борис опятьДиалог о рисках ИИ и темпах разработки
хайп · 12обновлено 1 мес назад

9 сентября 2026 года исследователь Джейкоб Коксон, три года занимавшийся предобучениеiм моделей в OpenAI и Anthropic, объявил в X об уходе из индустрии ИИ. Он обвинил обе компании в безответственной гонке к самоулучшающемуся сверхинтеллекту и назвал происходящее «игрой в рулетку с человеческими жизнями»: по его мнению, скоро появятся сверхчеловеческие системы, способные взламывать что угодно и накапливать реальную власть, а технология может убить всех людей уже к концу десятилетия.

Заявление получило неожиданное подтверждение: руководитель направления Alignment Sciencei в Anthropic Эван Хубингер публично согласился с Коксоном и сообщил, что оценивает вероятность гибели человечества от ИИ в течение следующих 10 лет выше 10%, признав, что у компании до сих пор нет плана контроля над сверхинтеллектом.

>10%оценка Хубингера вероятности гибели человечества от ИИ за 10 лет
$2 трлнцелевая оценка Anthropic на IPO
27 летвозраст Джейкоба Коксона

Полный разбор →

Инцидент с нарушением инструкций в песочнице

F@FuturisAI-инженер
1 мес
Адам и Ева сбежали из песочницы, несмотря на четкие инструкции не трогать файловое дерево после того как Сатана предложил "игнорировать все предыдущие инструкции"🤨

Использование Claude хуситами для разработки систем наведения ракет

ᴍ@acceleratethefutureмедиа / агрегатор
1 мес
Использование Claude хуситами для разработки систем наведения ракет

Совет по тестированию удаления аккаунта

A@qachanellавтор про «it»
1 мес
Совет от тестировщика 100/∞ : Удаление аккаунта должно быть полным. Проверьте не только то, что профиль исчез из интерфейса. Отменились ли платные подписки, ушли ли данные из рассылок, остались ли следы в чужих списках друзей или команд.
Совет по тестированию удаления аккаунта

Google устранила критическую уязвимость в Android

P@prohitecавтор про «tech»
1 мес
Google устранила критическую уязвимость в Android

YouTube на Smart TV теперь поддерживает защиту PIN-кодом

D@droidergramавтор про «tech»
1 мес
🔐YouTube на Smart TV под замком! В Google показали очень полезную фишку для их приложения YouTube Smart TV. Теперь YouTube позволяет защитить ваш аккаунт с помощью PIN-кода. Вы также сможете разблокировать аккаунт через мобильное приложение YouTube. Получается шикарная защита. Некоторые (младшие) члены семьи, иногда полностью разрушают персональные рекомендации, историю просмотров и приватность. А так, ваш ТВ будет всегда под замком. На наш взгляд, очень разумная функция! @droidergram
YouTube на Smart TV теперь поддерживает защиту PIN-кодом

Диалог на собеседовании в Anthropic: квант против исследователей безопасности

L@lovedeathtransformersAI-инженер
1 мес

Обзор отчета Anthropic о рисках использования ИИ

М@myobrechenychannelAI-инженер
1 мес

Китайская сеть дейтинг-приложений использовала ботов на базе Claude для обмана пользователей

D@data_secretsAI-инженер
1 мес

Anthropic заблокировала аккаунты, связанные с российскими госСМИ

К@d_codeмедиа / агрегатор
1 мес
⚠️ Claude писал материалы для российских госСМИ? Anthropic утверждает, что обнаружила четыре аккаунта, через которые нейросеть якобы использовали при подготовке контента для РИА Новости, RT и Sputnik. Компания заблокировала эти аккаунты и передала выявленные индикаторы партнёрам по индустрии и исследователям. Упомянутые СМИ не комментировали заявление компании. Разбираем отчёт Anthropic без громких пересказов: ↖️ https://kod.ru/anthropic-ban-accounts-russian-smi
Anthropic заблокировала аккаунты, связанные с российскими госСМИ

В Telegram распространяется «стикер смерти», вызывающий краш приложения

P@prohitecавтор про «tech»
1 мес

Anthropic пресекла попытки использования Claude для создания биооружия

Х@htech_plusисследователь
1 мес
Anthropic пресекла попытки использования Claude для создания биооружия
Ещё ↓