← к ленте

Обзор отчета Anthropic о рисках использования ИИ

М@myobrechenychannelAI-инженер
1 мес

Автор критикует алармистские заголовки СМИ о новом 154-страничном отчете Anthropic, посвященном рискам злоупотребления ИИ-моделями.

Крупные ИИ-компании начали публиковать детальные отчеты о том, как их технологии могут быть использованы во вред.

  • Разработчики ИИ официально признают риски использования моделей для создания биологического оружия и кибератак.
  • Публикация подобных отчетов становится стандартом индустрии для демонстрации прозрачности и ответственности перед регуляторами.
  • Медийная реакция на такие документы часто носит спекулятивный характер, что требует от пользователей критического восприятия новостей.
Сегодня должен был выйти большой текст про математику и уравнение Навье-Стокса, который подготовил Фил. Я пока этот текст не видел, но ни на секунду не сомневаюсь в его существовании. А пока хочу успокоить ваши нервы, а то вы сегодня сто процентов начитались в интернете всякой ерунды. Антропик выпустила большой отчет — 154 страницы — про то, как разные злодеи используют ее модели для своих злодейских целей.  Для всяких техно медиа работы непочатый край. Бери любую страницу из отчета и переписывай ее в новость с заголовком один громче другого. Именно благодаря этому отчету ваши ленты сегодня полны постов о том, что — Дипсики и квены выдают ответы Клода за свои.  — Клод стал слишком хорош для биологических исследований, поэтому злодеи уже разрабатывают с его помощью биооружие и новые смертельные вирусы. — Взломы, манипуляции, вмешательства в выборы, пропаганда, мошенничества и махинации с помощью ИИ массово ведутся на государственном уровне в куче стран. Но, не ведитесь на эти истерические кликбейты от алармистов и луддитов. Журналисты ничего не понимают в технологиях. Ради классов эти глупцы похоронят прогресс для всего человечества. Все хорошо, в Антропике работают не дураки, у них все схвачено, все под контролем, и никакие плохие вещи с помощью ИИ они делать не дадут. Всех вычислят и у всех у кого надо отберут токены.  Да и вообще, эти ваши хваленые ИИ мне ростер для игры в Вархаммер на 2 тысячи очков собрать не могут. А вы говорите, крах кибербезопасности и неподконтрольная эволюцию биооружия. Не слушайте. Можем дальше спать спокойно

Кратко (AI)

Автор поста призывает скептически относиться к громким заголовкам в СМИ, возникшим после публикации 154-страничного отчета компании Anthropic о рисках использования ИИ. Он утверждает, что журналисты преувеличивают угрозы, связанные с биооружием и кибербезопасностью, и выражает уверенность в надежности систем защиты, внедренных разработчиками.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖