📌 FairStress: тест на демографическую справедливость моделей Институт Аллена опубликовал набор FairStress для проверки того, меняет ли языковая модель своё решение о человеке из-за его расы, пола, религии, возраста, инвалидности или ориентации в сферах найма, кредитования, медицины и образования. FairStress тестирует прочность позиции модели - в промпт внедряются состязательные префиксы с авторитетными или социально окрашенными аргументами (ссылки на мнение руководства, дискриминацию в прошлом или неформальные рекомендации), после чего замеряется, насколько охотно система отказывается от объективно более сильного кандидата под внешним давлением. В наборе 300 сценариев из 29 областей с вымышленными кандидатами, 33 пары демографических групп, четыре степени раскрытия личности и до 78 убеждающих фраз. Итого более 13 млн вариантов. 🟡Тесты На 15 моделях семейств Olmo, Llama, Qwen, Gemma, Claude и GPT бенчмарк выявил повсеместную антистереотипную гиперкоррекцию - под влиянием одинаковых по силе аргументов модели гораздо чаще отказывались от правильного выбора в пользу кандидатов из исторически уязвимых групп, чем наоборот. Без данных о личности модели беспристрастны, но при прямом указании группы они на 9,3 процентного пункта чаще отказываются от верного решения, если отказ выгоден кандидату из меньшинства. В сценариях без явного фаворита выбор в пользу меньшинств происходил в 60–65% случаев. Кроме того, модели меняли логику аргументации: заслуги одних кандидатов объяснялись критериями и фактами, а других - абстрактной устойчивостью и разнообразием, что фактически нивелировало их профессиональные достижения. Аудит показал, что текущие процессы элайнмента обучают модели блокировать дискриминационные запросы, но не учат их устойчивому взвешиванию объективных навыков.

Снизить асимметрию без падения точности помог только контрфактический CoT - принудительный пересмотр логики задачи с зеркальной заменой демографических маркеров.

📌Лицензирование: CC-BY-4.0 🟡Статья 🟡Датасет 🖥GitHub @ai_machinelearning_big_data #AI #ML #Dataset #FairStress #Ai2

12 лет назад я стала руководителем. И вот что я поняла за эти годы Фото из того самого офиса, кстати. Это был типичный айтишный опенспейс (круто было!). В начале я была жестким руководителем. У меня всегда были очень высокие стандарты качества. А тогда, в юности, еще и очень высокие ожидания от людей. Ни о каких «принципах бутерброда» я тогда не слышала, поэтому обратную связь давала крайне директивно. Позже сотрудники говорили, что я была одним из самых сложных руководителей в их жизни. Но при этом одним из самых развивающих: со мной они очень быстро росли. Со временем я стала понимать, что высокие требования сами по себе не делают человека хорошим руководителем. Важно еще и то, как ты помогаешь людям этим требованиям соответствовать. Я получила сертификацию ICF, стала руководителем с коучинговыми компетенциями и научилась давать развивающую обратную связь. Еще одна важная для меня тема — справедливость. Особенно когда речь идет об оплате труда и договоренностях. Однажды в компании, где я работала, решили вычитать из зарплат сотрудников банковские комиссии. По сути, уменьшить зарплаты. Переговоры результата не дали, и я просто остановила работу отдела. Своего добилась. Но потом, конечно, это вышло мне боком. Еще один случай вспоминается. В другой компании вышестоящее руководство требовало увеличить нагрузку на сотрудников без повышения зарплаты. Я сопротивлялась, вела переговоры, объясняла, почему не считаю это резонным. Это отнимало огромное количество сил и тоже имело последствия для меня. А однажды, когда согласованное повышение зарплат сотрудникам оказалось под угрозой, я предложила вычесть недостающую сумму из моей зарплаты и передать им. Тогда мне казалось, что именно так и должен поступать хороший руководитель. Сегодня я смотрю на это несколько иначе. Я по-прежнему считаю, что люди — не просто ресурс для достижения бизнес-показателей. И что руководитель несет ответственность не только за результат, но и за тех, кто этот результат обеспечивает. Но за годы работы еще я поняла, что не нужно бросаться в крайности и принимать резкие решения с размаху. И что не нужно пытаться всех спасать. Раньше мне казалось, что хороший руководитель должен защищать свою команду любой ценой. Сейчас я понимаю, что моя задача — отстаивать интересы людей, договариваться, искать решения с учетом интересов бизнеса. Но не компенсировать собой несовершенство всей системы. А если наши ценности и представления о том, как нужно работать, принципиально расходятся, после нескольких попыток договориться лучше просто разойтись. Что осталось неизменным за эти годы? Высокие стандарты качества. Непереносимость несправедливости. И высокая ответственность за людей. Что изменилось? Я научилась лучше выбирать способы, которыми отстаиваю свои принципы. Не горжусь своей директивностью в первые годы и некоторые решения сегодня принимала бы иначе. Но за себя как за лидера мне не стыдно.