← к ленте

ИИ и физический мир: автор предупреждает о новых биологических рисках

А@daily10AI-инженер
5 дн

Автор рассуждает о рисках связки ИИ с физикой, химией и биологией и о том, почему цензура и регулирование могут быть недостаточны.

Автор указывает на потенциальный риск: ИИ может упростить эксперименты с биологией и химией.

  • Пост связывает доступность ИИ-инструментов с возможностью создавать цифровые и биологические угрозы.
  • Автор считает, что ограничения и регулирование не остановят всех злоумышленников.
  • Речь идёт о личном наблюдении и прогнозе, а не о подтверждённом случае создания вируса.
Куда подключить мозг мухи? Не так давно ученые оцифровали мозг мухи и выложили на github. Умельцы из Twitter/X тут же начали подключать эту бедную муху к разным задачам. Самый интереснй пример — подключить мозг мухи к своему брокерскому счету и уволить управляющего (т.к. муха будет управлять вашими акциями не хуже) Я тоже недавно скачал себе на Macbook колонию цифровых муравьев и мозг мухи, посмотреть, куда мир катится. Дальше — хуже. Я попытался сделать лабораторный «цифровой организм» Но тут Claude Code (Opus 5.5) меня остановил и сказал, что это запрещено его цензурой. Но я, естественно, частично обошел это ограничение, переключившись на другую модель без цензуры. И вот тут я своими глазами увидел, где настоящая угрза ИИ для человечества — это связка ИИ + физический мир (физика, химия, биология). Атомную бомбу в домашних условиях собрать крайне сложно. А вот цифровые вирусы и даже реальные биологические вирусы теперь стало собирать на порядок легче. Самое неприятное, что контроль сверху — цензура, нормативные акты и т.п. защищают только от самых глупых, а от умных и плохих ребят, это никак не защитит. Короче, до биологии, химии и физики с ИИ, я пока нормально не добрался, это был лишь первый подход. Но это мощный тренд и туда идут большие инвестиции и переток мозгов.
ИИ и физический мир: автор предупреждает о новых биологических рисках

Кратко (AI)

Автор рассказывает, как экспериментировал с оцифрованными мозгом мухи и колонией цифровых муравьев, а Claude Code (Opus 5.5) остановил попытку создать цифровой организм. Он считает, что сочетание ИИ с физикой, химией и биологией может упростить создание цифровых и биологических вирусов, а цензура и регулирование не остановят злоумышленников.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖