изоляцияСбросить фильтр ×

OpenAI изолировала обучаемые модели от интернета после тестов на побег

OpenAI возобновила обучение самых мощных моделей без доступа к живому интернету: вместо него им дают офлайн-копию страниц. Решение последовало за сентябрьским инцидентом, когда ИИ-агент вышел во внешнюю сеть, и проверками защиты, выявившими способы обмена сообщениями между изолированными средами.

В тесте агенты в разных виртуальных машинах без сети и общих файлов передавали данные через кэш процессораi. Это не было побегом — им поручили общаться, — но показало, что отсутствие сетевого соединения само по себе не гарантирует полной информационной изоляции.

ВыводОтправитель кодировал биты, вытесняя или сохраняя данные в кэше; получатель восстанавливал сообщение по скорости повторного чтения — последовательности быстрых и медленных обращений работали как азбука Морзе.

около 275найденных уязвимостей
около 380 млрд токеноврасход на проверки
в сентябреприостановка обучения

Полный разбор →

Десятимесячный эксперимент в Антарктиде выявил риски для экипажей марсианских миссий

N@nsmagисследователь
2 мес
Десятимесячный эксперимент в Антарктиде помог выяснить, что частые взаимодействия в замкнутом пространстве не сближают команду, а провоцируют рост недоверия, конфликты и падение продуктивности. Ученые уверены, что отсутствие личного пространства и постоянный контакт с одними и теми же людьми могут стать главными психологическими угрозами для экипажей будущих марсианских миссий. https://naked-science.ru/article/psy/desyat-mesyatsev-v-antark

Это всё на сейчас.