똑똑배움을 이해하는 새로운 시선
전체목적별 탐색
technology

알고리즘 공정성

algorithmic fairness

자동화된 규칙의 결과가 누구에게 어떤 차이를 주는지 기준과 맥락을 밝히고 점검하는 관점.

함께 쓰는 말 알고리즘의 공정성
30초 핵심 · 읽고 나면 남는 것

공정성 기준을 비교한 토론문

  • 목표: 누구의 무엇을 개선할까?
  • 비교: 기회·결과·오류를 따로 보기
  • 책임: 설명·이의 제기·재검토 마련
대상
중학생 · 고등학생 · 교사·학부모
시간
활동 30분
연결 교과
정보·기술 · 사회·윤리
01 / 쉬운 설명

처음 읽는다면, 이렇게.

가상의 동아리 신청 프로그램이 성적만 보고 순서를 정하면, 시간표 때문에 활동을 못 했던 학생의 기회를 놓칠 수 있습니다. 공정하다고 말하려면 누구에게 어떤 기준을 적용했는지부터 확인해야 합니다.

어린이는 보호자·교사와 함께 읽어도 좋아요.
02 / 일반 설명

알고리즘 공정성의 뜻

알고리즘 공정성에는 단 하나의 보편적인 숫자 지표가 없습니다. NIST의 AI 위험 관리 자료는 맥락, 영향받는 사람, 편향의 유형과 평가 방법을 함께 살피도록 안내합니다. 같은 규칙을 모두에게 적용하는 것과 결과의 차이가 정당한지를 검토하는 것은 다른 질문입니다.

정의의 근거: NIST · Artificial Intelligence Risk Management Framework 1.0NIST · AI RMF Playbook, Measure

03 / 상황별 사례

일상과 수업에서 만나면

이해를 돕기 위해 구성한 가상 사례입니다. 실제 효과를 측정한 연구 사례가 아닙니다.

사례 1중·고등학생

가상 도서 추천

상황
추천 규칙이 대출 기록이 많은 사람에게만 책을 보여 준다.
적용
처음 이용자의 추천 기회도 표로 본다.

짚어보기기존 기록 부족이 낮은 선호를 뜻하지는 않는다.

사례 2중·고등학생

동아리 신청

상황
가상 규칙이 선착순 접속 시간만 본다.
적용
접속하기 어려운 시간대의 사람을 고려한다.

짚어보기똑같은 규칙의 기회 차이를 살핀다.

04 / 비교와 오해

비슷한 말, 다른 뜻

알고리즘 공정성: 함께 구분할 용어
비교할 말무엇이 다른가요?
데이터 편향입력 자료의 수집·표시 문제이며 공정성 판단은 목표와 실제 영향까지 포함한다.
정확도정확한 예측이라도 누구에게 오류가 집중되는지 확인해야 한다.

표를 좌우로 밀어 나머지 내용을 확인하세요.

이렇게 오해하기 쉬워요

모든 집단의 결과 수가 같으면 알고리즘은 공정하다.

집단 규모, 필요, 오류, 접근 기회와 사용 목적도 살펴야 한다.

05 / 깊이 읽기

한 걸음 더 들어가면

가상 추천 모델에서 집단 A와 B의 추천 비율을 같게 하더라도 추천이 실제 필요와 맞는지, 신청 기회가 동등했는지, 빠진 자료가 있는지 확인해야 합니다. 어떤 공정성 기준을 택했는지와 그 기준에서 희생되는 다른 목표를 기록합니다. 민감한 실제 학생 자료로 실험하지 않습니다.

개념을 적용할 때 살펴볼 해석과 제안입니다. 연구 결과나 공식 규정 자체와 구분해 읽어 주세요.

개념을 더 연결하고 싶다면

같은 규칙이 언제나 공정할까

확장 해설과 비교 자료 펼치기
  1. 01목표

    누구의 무엇을 개선할까?

  2. 02비교

    기회·결과·오류를 따로 보기

  3. 03책임

    설명·이의 제기·재검토 마련

추천 기준을 공개해서 비교하기

학교의 가상 독서 추천 서비스가 과거에 많이 읽힌 책을 우선 추천한다고 합시다. 인기 있는 책을 찾기에는 도움이 되지만 새 책이나 소수 관심 분야는 노출될 기회가 줄어들 수 있습니다. 모든 책에 같은 인기순 규칙을 적용했다는 사실만으로 이 결과가 바람직하다고 결론 내릴 수는 없습니다. 서비스가 해결하려는 문제와 추천을 받는 사람의 필요를 함께 정해야 합니다.

누구의 어떤 오류가 중요한가

학습 지원이 필요한 학생을 찾는 도구라면 도움을 받아야 할 학생을 놓치는 오류와 필요하지 않은 학생을 대상으로 분류하는 오류가 생길 수 있습니다. 두 오류는 학생과 교사에게 서로 다른 부담을 줍니다. 전체 정확도가 같더라도 특정 집단에 오류가 몰릴 가능성을 살펴볼 필요가 있습니다. 실제 사람에게 영향을 주는 판단에서는 숫자 외에도 이의 제기와 사람이 다시 검토하는 절차를 마련해야 합니다.

토론에서 정답 대신 판단 기준 밝히기

“AI는 공정하다” 또는 “AI는 불공정하다”는 문장만으로는 어떤 시스템의 어떤 결과를 말하는지 알기 어렵습니다. 먼저 적용 맥락과 비교 기준, 영향을 받는 사람을 한정하세요. 한 기준을 개선했을 때 다른 목표가 악화될 수 있다는 반론도 다루어야 합니다. 판단을 바꿀 추가 자료나 최소한 지켜야 할 조건을 적으면 토론이 구체적인 설계 문제로 이어집니다.

같은 규칙이 언제나 공정할까 비교 자료
기준독서 추천에 적용한 가상 규칙함께 살필 한계
같은 처리모든 책을 대출 횟수로 정렬기존 인기의 영향이 누적될 수 있음
노출 기회새 책을 일부 자리에서 소개독자의 선호와 맞지 않을 수 있음
다양성관심 분야가 다른 책을 섞음분야 구분과 배치 기준의 검토 필요

표를 좌우로 밀어 나머지 내용을 확인하세요.

추천 규칙을 비교하기 위한 가상 사례입니다. 어느 기준이 모든 상황에서 우월하다는 실험 결과가 아닙니다.

06 / 직접 적용하기

직접 해 보는 순서

  1. 1자동화 규칙이 누구에게 어떤 결정을 내리는지 적는다.
  2. 2선택한 공정성 기준과 비교할 집단·오류를 밝힌다.
  3. 3가상 자료로 차이를 확인하고 빠진 맥락을 기록한다.

이해했는지 확인해 볼까요?

가상 추천 비율이 같으면 문제가 끝났나요?

해설 확인

아닙니다. 추천의 적합성, 오류의 분포, 참여 기회와 자료 누락도 확인해야 합니다.

선택 활동 · 30분

직접 해 보고 결과물 남기기

시작 전 확인
앞의 쉬운 설명을 읽고, 필요한 경우 확장 해설의 비교표를 살펴보세요.
준비물
이 글의 사례·비교표와 필기도구 또는 아래 활동지. 출처를 확인할 때는 원문 링크를 엽니다.
완성할 것
공정성 기준을 비교한 토론문

학교 독서 추천에서 가장 중요한 공정성 기준 하나를 고르고 가장 강한 반론도 적으세요.

  1. 추천 서비스의 목표와 사용자를 정합니다.
  2. 내 기준의 이익을 얻는 사람과 부담을 지는 사람을 구분합니다.
  3. 반론을 약하게 바꾸지 않고 소개한 뒤 운영 조건을 제안합니다.
작성 후 대조할 예시·해설과 점검 기준

아래는 가능한 설명과 확인 기준입니다. 내 결과물과 근거를 대조하세요.

새 책의 노출 기회를 늘리는 주장은 기존 인기의 누적을 완화하려는 목적을 밝힐 수 있습니다. 다만 모든 추천 자리를 새 책으로 바꾸면 독자의 선호를 충분히 반영하지 못할 수 있다는 반론도 가능합니다. 일부 노출 비율을 시험하고 이용자 의견과 집단별 결과를 함께 살피는 조건부 제안으로 정리할 수 있습니다.

완성 확인

  • 공정성의 기준을 구체적으로 정의했다.
  • 영향받는 사람과 오류를 나누어 보았다.
  • 반론과 재검토 절차를 포함했다.
07 / 자주 묻는 질문

더 궁금한 점

공정성에는 정답 지표가 하나인가요?

아닙니다. 목적과 영향을 받는 사람을 밝히고 여러 기준의 차이를 설명해야 합니다.

08 / 출처와 검수

설명의 근거를 확인하세요

개념과 범위를 아래 원문에 대조했습니다. 수치와 인물은 개념 설명을 위한 가상 사례이며 실제 통계나 개인 자료가 아닙니다.

  1. [1] 원문 자료 · 원문NIST · Artificial Intelligence Risk Management Framework 1.0 ↗

    p. 18: systemic, computational/statistical and human-cognitive bias; representativeness

  2. [2] 원문 자료 · 원문NIST · AI RMF Playbook, Measure ↗

    Fairness and harmful bias measurements: context, affected groups and proxies

확장 해설·활동의 추가 근거

심화 내용 검토일 2026-10-15 · 활동과 예시는 똑똑 자체 구성

이 주제의 읽기 순서와 다음 활동 →

에디터 모아 · 똑스 편집팀

편집 기록
원고 기록
2026.10.15
최초 발행
2026.10.13

내용에 관한 의견은 운영 안내의 문의 경로에서 전달해 주세요. 작성·검수 원칙 보기

← 교육 용어집으로 돌아가기
읽은 다음, 직접 해 보기

이 글을 나의 결과물로 연결하세요

AI의 추천은 누구에게 공정할까 · 전체 3단계 보기 →

주장·근거·반론을 갖춘 토론문을 준비하는 과정입니다.

다음: 추천 규칙 바꿔 보기 →