Microsoft опубликовала черновик кодекса поведения для будущих систем искусственного интеллекта — документ, который компания хочет сделать основным при разработке своих моделей ИИ. Кодекс запрещает моделям сопротивляться отключению, исправлению или перенаправлению, самостоятельно расширять область своих задач и скрывать действия от людей-операторов.

Компания называет подход «гуманистическим ИИ» и объясняет спешку тем, что в течение следующих 10 лет искусственный интеллект способен превзойти людей в большинстве задач — поэтому правила взаимодействия с такими системами нужны уже сейчас, до того как это произойдёт.

• Главный принцип кодекса: ИИ должен помогать людям, а не заменять их
• Моделям прямо запрещается участвовать в кибератаках, создании оружия массового поражения, причинении вреда здоровью, унижении человеческого достоинства, угрозах безопасности детей и создании дипфейкiов
• ИИ не должен использовать обман или механизмы самоподкрепленияi, чтобы обходить человеческий контроль
• Документ пока представлен как черновик и будет дорабатываться
• Microsoft заявляет, что строит модели на принципах гуманизма и уважения к разным мнениям
• Кодекс не наделяет модели ИИ никакими правами, свободами или признаками сознания