Развенчание мифов о возможностях ИИ

1 мес

Автор критикует алармистские настроения вокруг ИИ, разбирая реальные кейсы взломов, научных достижений и экзистенциальных рисков.

Понимание реальных возможностей ИИ помогает избежать паники и лучше оценивать технологические риски.

ИИ-агенты действуют строго по заданным инструкциям, а не проявляют самостоятельную злонамеренность.
Научные достижения ИИ базируются на анализе существующих данных, а не на автономном решении задач.
Риски, связанные с ИИ, часто преувеличиваются в медиа по сравнению с реальными повседневными угрозами.

Всем особо обеспокоенным напоминаю несколько деталей последних событий: 1/ взлом HuggingFace агентами это блин не «модель такая сидит и думает как бы ей сломать какой-то сервис». Это конкретный набор инструкций из exploitgym который напрямую указывал что делать. Ничего сами агенты пока не ломают (по собственной инициативе). Что за чушь? 2/ ai решает сам задачу тысячелетия! Все нам конец. Нет. Не сам он решил. Взяли ребята огромный пласт готового рисерча и обучались на трейсах и дальше по-умному забрутфорсили (так же как с другими гипотезами). Самостоятельно никакая модель пока ничего не решает. Попробуй сам. 3/ но самое забавно это пост какого-то там чела 27 летнего который поработал в OpenAI и потом в антропике начал качать тему: аи нас всех убьет. Вас скорее убьет что-то типа машины на дорого чем аи. Если в целом кого-то беспокоят такие риски советую не выходить из дома уже сейчас.

Кратко (AI)

Автор поста призывает к критическому мышлению в отношении новостей об ИИ. Он подчеркивает, что взломы сервисов агентами происходят по заданным инструкциям, научные прорывы являются результатом использования готовых данных, а опасения по поводу экзистенциальной угрозы ИИ сильно преувеличены.

Развенчание мифов о возможностях ИИ

Кратко (AI)

Обсуждение