처음 읽는다면, 이렇게.
가상의 동아리 신청 프로그램이 성적만 보고 순서를 정하면, 시간표 때문에 활동을 못 했던 학생의 기회를 놓칠 수 있습니다. 공정하다고 말하려면 누구에게 어떤 기준을 적용했는지부터 확인해야 합니다.
알고리즘 공정성의 뜻
알고리즘 공정성에는 단 하나의 보편적인 숫자 지표가 없습니다. NIST의 AI 위험 관리 자료는 맥락, 영향받는 사람, 편향의 유형과 평가 방법을 함께 살피도록 안내합니다. 같은 규칙을 모두에게 적용하는 것과 결과의 차이가 정당한지를 검토하는 것은 다른 질문입니다.
일상과 수업에서 만나면
이해를 돕기 위해 구성한 가상 사례입니다. 실제 효과를 측정한 연구 사례가 아닙니다.
가상 도서 추천
- 상황
- 추천 규칙이 대출 기록이 많은 사람에게만 책을 보여 준다.
- 적용
- 처음 이용자의 추천 기회도 표로 본다.
짚어보기기존 기록 부족이 낮은 선호를 뜻하지는 않는다.
동아리 신청
- 상황
- 가상 규칙이 선착순 접속 시간만 본다.
- 적용
- 접속하기 어려운 시간대의 사람을 고려한다.
짚어보기똑같은 규칙의 기회 차이를 살핀다.
비슷한 말, 다른 뜻
| 비교할 말 | 무엇이 다른가요? |
|---|---|
| 데이터 편향 | 입력 자료의 수집·표시 문제이며 공정성 판단은 목표와 실제 영향까지 포함한다. |
| 정확도 | 정확한 예측이라도 누구에게 오류가 집중되는지 확인해야 한다. |
이렇게 오해하기 쉬워요
모든 집단의 결과 수가 같으면 알고리즘은 공정하다.
집단 규모, 필요, 오류, 접근 기회와 사용 목적도 살펴야 한다.
한 걸음 더 들어가면
가상 추천 모델에서 집단 A와 B의 추천 비율을 같게 하더라도 추천이 실제 필요와 맞는지, 신청 기회가 동등했는지, 빠진 자료가 있는지 확인해야 합니다. 어떤 공정성 기준을 택했는지와 그 기준에서 희생되는 다른 목표를 기록합니다. 민감한 실제 학생 자료로 실험하지 않습니다.
개념을 적용할 때 살펴볼 해석과 제안입니다. 연구 결과나 공식 규정 자체와 구분해 읽어 주세요.
직접 해 보는 순서
- 1자동화 규칙이 누구에게 어떤 결정을 내리는지 적는다.
- 2선택한 공정성 기준과 비교할 집단·오류를 밝힌다.
- 3가상 자료로 차이를 확인하고 빠진 맥락을 기록한다.
이해했는지 확인해 볼까요?
가상 추천 비율이 같으면 문제가 끝났나요?
해설 확인
아닙니다. 추천의 적합성, 오류의 분포, 참여 기회와 자료 누락도 확인해야 합니다.
더 궁금한 점
공정성에는 정답 지표가 하나인가요?
아닙니다. 목적과 영향을 받는 사람을 밝히고 여러 기준의 차이를 설명해야 합니다.
설명의 근거를 확인하세요
개념과 범위를 아래 원문에 대조했습니다. 수치와 인물은 개념 설명을 위한 가상 사례이며 실제 통계나 개인 자료가 아닙니다.
- [1] 원문 자료 · 원문NIST · Artificial Intelligence Risk Management Framework 1.0 ↗
p. 18: systemic, computational/statistical and human-cognitive bias; representativeness
- [2] 원문 자료 · 원문NIST · AI RMF Playbook, Measure ↗
Fairness and harmful bias measurements: context, affected groups and proxies
에디터 모아 · 똑스 편집팀
편집 기록
- 원고 기록
- 2026.10.13
- 최초 발행
- 2026.10.13
내용에 관한 의견은 운영 안내의 문의 경로에서 전달해 주세요. 작성·검수 원칙 보기