Что такое AI Bias (предвзятость ИИ)
Подробнее
Источники: 1) Несбалансированный датасет — модель видела больше примеров одной группы; 2) Selection bias — данные собраны не репрезентативно; 3) Confirmation bias — разметчики усиливают свои предположения; 4) Optimization bias — выбранная метрика не учитывает справедливость.
Примеры: face recognition с худшей точностью на тёмной коже, рекрутинговые модели, отсеивающие женщин в IT, кредитный скоринг с географической дискриминацией.
Способы борьбы: 1) Балансировка датасета; 2) Adversarial debiasing на этапе обучения; 3) Fairness-aware metrics (demographic parity, equalized odds); 4) RLHF с разнообразной командой разметчиков; 5) Post-hoc audits.
В Claude (Anthropic), GPT (OpenAI), Gemini (Google) применяются constitutional AI и RLHF для снижения bias на этапе alignment, но полностью устранить bias невозможно.
Примеры
- Face recognition: худшая точность на тёмной коже
- Рекрутинг: отсев женщин в IT
- Кредитный скоринг: гео-дискриминация
- Перевод: гендерные стереотипы в названиях профессий
Частые вопросы
Можно ли полностью устранить bias?
Нет. Любые данные содержат отражения общественных предрассудков. Цель — минимизировать критические виды bias и честно говорить об ограничениях.
Почему bias опасен в кредитах/медицине?
В этих сферах ошибочное решение влияет на жизнь человека. Bias может усиливать дискриминацию по полу, возрасту, расе, гео. Регуляторы РФ и ЕС вводят аудит ИИ-систем.
Как тестируют bias?
Через специализированные benchmark'и: BBQ (US-bias), CrowS-Pairs, StereoSet. Проверяют модель на dilemma-вопросах с разными демографическими группами.
Регулируется ли в России?
Кодекс этики ИИ Альянса в сфере ИИ (2021), ГОСТ Р 59276 (2020) — рекомендации. Жёстких законов на 2026 ещё нет, но 152-ФЗ о защите персональных данных обязывает.