처음 읽는다면, 이렇게.
가상의 추천 설문을 낮 시간에만 받으면 낮에 참여하기 어려운 사람의 선호가 빠질 수 있습니다. 계산을 정확히 해도 처음 모은 자료가 한쪽으로 치우치면 결과를 잘못 해석할 수 있습니다.
데이터 편향의 뜻
NIST는 AI의 편향이 대표성 부족 같은 통계·계산상의 오류뿐 아니라 제도와 사람의 판단에도 생길 수 있다고 설명합니다. 데이터 편향은 표본 선택, 누락, 측정 기준, 라벨 작성 등 여러 단계에서 나타납니다. 자료의 불균형만으로 차별 결과를 확정할 수는 없지만 점검 신호가 됩니다.
일상과 수업에서 만나면
이해를 돕기 위해 구성한 가상 사례입니다. 실제 효과를 측정한 연구 사례가 아닙니다.
설문 시간
- 상황
- 가상 도서관 설문이 낮 2시간만 열린다.
- 적용
- 참여 가능한 사람과 빠진 사람을 표로 적는다.
짚어보기응답 비율을 전체 이용자 선호로 일반화하기 어렵다.
라벨 기준
- 상황
- 같은 가상 문의를 두 사람이 서로 다른 범주로 표시한다.
- 적용
- 분류 기준 문장을 비교한다.
짚어보기라벨 자체의 일관성이 필요하다.
비슷한 말, 다른 뜻
| 비교할 말 | 무엇이 다른가요? |
|---|---|
| 알고리즘 공정성 | 자료뿐 아니라 목표·규칙·사용 맥락에서의 영향까지 평가한다. |
| 무작위 오차 | 우연한 흔들림과 일정한 방향의 체계적 치우침을 구별한다. |
이렇게 오해하기 쉬워요
인원 수만 똑같이 맞추면 데이터 편향이 사라진다.
수집 경로·측정·라벨 기준의 문제는 인원 균형만으로 해결되지 않는다.
한 걸음 더 들어가면
가상 도서 추천 자료에서 평일 낮 응답 80명, 저녁 응답 20명을 동일한 생활 패턴의 사람처럼 취급하면 이용 시간대별 선호를 놓칠 수 있습니다. 집단별 표본 수와 수집 경로를 기록하고, 빠진 집단의 영향이 어느 방향일지 가설로 남깁니다. 실제 개인의 민감 정보는 쓰지 않습니다.
개념을 적용할 때 살펴볼 해석과 제안입니다. 연구 결과나 공식 규정 자체와 구분해 읽어 주세요.
직접 해 보는 순서
- 1자료가 누구에게서 언제 어떻게 모였는지 적는다.
- 2누락·분류 기준·집단별 수를 확인한다.
- 3다른 수집 방법으로 결론이 바뀌는지 시험한다.
이해했는지 확인해 볼까요?
낮 시간 설문 결과로 모든 이용자의 시간 선호를 말할 수 있나요?
해설 확인
조사에 참여할 수 없었던 이용자가 있는지 확인하지 않으면 일반화하기 어렵습니다.
더 궁금한 점
편향은 항상 누군가의 악의 때문에 생기나요?
아닙니다. NIST는 의도적 편견 없이도 시스템·통계·인지 과정에서 편향이 생길 수 있다고 설명합니다.
설명의 근거를 확인하세요
개념과 범위를 아래 원문에 대조했습니다. 수치와 인물은 개념 설명을 위한 가상 사례이며 실제 통계나 개인 자료가 아닙니다.
- [1] 원문 자료 · 원문NIST · Artificial Intelligence Risk Management Framework 1.0 ↗
p. 18: systemic, computational/statistical and human-cognitive bias; representativeness
에디터 모아 · 똑스 편집팀
편집 기록
- 원고 기록
- 2026.10.13
- 최초 발행
- 2026.10.13
내용에 관한 의견은 운영 안내의 문의 경로에서 전달해 주세요. 작성·검수 원칙 보기