Риск адаптации человека под алгоритмы ИИ

Пока выходные не закончились, вот вам воскресное чтиво. Не то, чтоб я был прямо во всем согласен с автором, но подход интересный и подумать в предложенном направлении любопытно. А направление состоит в том, что что мы, люди, известны своей гибкостью и способностью в итоге много к чему адаптироваться — и во времена быстрого развития ИИ это может плохую службу сослужить: мы начнем, осознанно и не очень, адаптироваться под вездесущий вокруг ИИ. Иными словами, главный риск не в том, что машины станут слишком похожи на людей или превзойдут их, а в том, что люди научатся быть удобными для рейтингов, алгоритмов и метрик, и сделают это сами и добровольно.

A humane technological future will not be secured by sentimentality, nor by a nostalgic defense of every task that software can now accelerate. It will depend on whether we can design tools, institutions and norms

При этом автор совсем не требует перестать пользоваться ИИ, скорее он настаивает на необходимости осознавать, что можно делегировать, а что — не стоит.

A model may help me find words, but it cannot stand behind the promise those words contain. A system may help me prepare for a conversation, but it cannot inherit responsibility for what I decide to say.

Но чем дальше читаешь текст, тем больше понимаешь, что зря автор привязываетися к самим моделям: обсуждаемые им проблемы возникают не из-за моделей или способностей ИИ, а благодаря тем обвязкам, которые люди самостоятельно и вполне целенаправленно конструируют для ИИ. Но тем интересней становится читать:) https://humanistreview.ai/issue-1/tang-ai-democracy-optimization/