고등학교 인공지능 기초 · 인공지능의 사회적 영향 · 2022 개정 교육과정
[12인기03-04] 성취기준 해설과 수업·평가 예시
성취기준 원문
[12인기03-04] 인공지능의 활용사례와 윤리적 딜레마 상황을 인공지능 윤리 관점에서 분석한다.
성취기준 해설
인간의 편향성에 대한 이해를 바탕으로, 알고리즘과 데이터의 편향성으로 인해 인공지능이 사회에 끼치는 영향을 이해하고 인공지능으로 인한 딜레마 상황에서 윤리적인 판단과 선택을 할 수 있어야 한다. 현재까지 정의되어진 인공지능 윤리(지침)와 관련하여 인공지능 개발자, 사용자, 운영·관리자 관점을 살펴보고, 인공지능 기술 활용으로 발생 가능한 윤리적 쟁점에 대하여 사회적 책임과 공정성의 가치를 판단할 수 있어야한다.
쉽게 풀어 보면
채용 심사, 자율주행, 얼굴 인식처럼 인공지능이 쓰이는 사례에서 데이터와 알고리즘의 편향이 어떤 불공정을 낳는지 살피고, 윤리적 딜레마 상황을 개발자·사용자·운영 관리자의 관점에서 나누어 분석하는 성취기준이에요. 인공지능 윤리 기준의 원칙을 근거로 책임과 공정성을 판단해 보는 것이 수업의 중심이에요.
학습지 문항 예시 예시
인공지능 윤리 딜레마 분석
- 과거 합격자 자료로 학습한 채용 인공지능이 특정 성별 지원자에게 낮은 점수를 주는 가상 사례에서 편향이 생긴 원인을 데이터 측면에서 설명하세요.
- 위 사례에서 개발자, 사용 기업, 운영 관리자가 각각 져야 할 책임을 한 가지씩 쓰세요.
- 자율주행차가 사고를 피할 수 없는 순간 누구를 보호하도록 설계해야 하는지에 대한 딜레마에서 두 가지 입장의 근거를 정리하세요.
- 인공지능 윤리 기준에서 강조하는 원칙(공정성, 투명성, 책임성 등) 중 하나를 골라 위 사례에 적용해 판단해 보세요.
수업 흐름 예시 예시
- 도입: 얼굴 인식이 일부 집단에서 더 자주 틀린다는 가상 시나리오를 읽고, 그 원인이 어디에 있을지 짐작해 말해요.
- 전개 1: 사람의 편향이 데이터에 담겨 알고리즘으로 옮겨지는 과정을 채용 인공지능 사례로 단계별 흐름도로 정리해요.
- 전개 2: 자율주행 딜레마 상황을 두고 개발자, 사용자, 운영 관리자 역할을 나누어 맡아 각 관점의 책임과 선택을 토론해요.
- 정리: 공정성, 투명성, 책임성 같은 윤리 원칙에 비추어 토론 결과를 평가하고 사회적 책임의 범위를 정리해요.
서술형 평가 문항과 채점 기준 예시
인공지능 활용 과정에서 편향이나 윤리적 딜레마가 나타나는 사례 하나를 골라 원인을 분석하고, 개발자·사용자·운영 관리자의 관점에서 각각의 책임을 제시한 뒤 공정성과 사회적 책임의 원칙에 비추어 바람직한 판단을 서술하시오.
| 수준 | 채점 기준 |
|---|---|
| 상 | 편향이나 딜레마의 원인을 데이터와 알고리즘 측면에서 정확히 분석하고, 세 관점의 책임을 구분해 제시하며 윤리 원칙을 근거로 일관된 판단을 도출함 |
| 중 | 사례의 원인과 책임을 제시했으나 관점 구분이 불분명하거나 윤리 원칙과의 연결이 약함 |
| 하 | 사례를 소개하고 옳고 그름만 판단할 뿐 원인 분석과 관점별 책임이 드러나지 않음 |
세특 기재 예시 예시
인공지능 윤리 관점에서 사례를 분석하는 활동에서 과거 합격자 자료로 학습한 채용 인공지능의 편향 사례를 다루며 사람의 편향이 데이터를 거쳐 알고리즘에 옮겨지는 과정을 흐름도로 정리함. 개발자는 데이터 점검, 운영 관리자는 결과 감시, 사용자는 최종 판단에 대한 책임을 진다고 구분해 제시함. 자율주행 딜레마 토론에서는 공정성 원칙을 근거로 상대 입장을 반박함.
이 예시는 201자, 나이스 기준 499Byte예요. 과목별 세특은 1,500Byte(500자)까지 써요. 내 문장은 나이스 글자수·바이트 계산기로 세어 볼 수 있어요.
세특에는 학생이 실제로 한 활동과 교사가 관찰한 내용만 써요. 대회명·기관명처럼 쓰면 안 되는 내용은 생기부 기재 금지 사전에서 확인할 수 있어요.
학생들이 자주 헷갈리는 점
인공지능은 기계라서 사람보다 공정하다고 믿는 학생이 많아요. 학습 데이터에 이미 사람의 편향이 담겨 있으면 인공지능은 그 편향을 그대로 배우거나 키울 수 있어요. 또 딜레마 문제에는 정답이 하나 있다고 여기기 쉬우니 원칙과 근거로 판단을 설명하는 데 초점을 두세요.
이 영역의 적용 시 고려 사항 (고시 원문)
- 인공지능의 사회적 가치와 영향력이 중요하다는 것과 새롭게 고려해야 할 윤리적 쟁점에 대한 충분한 사회적 논의 과정이 필요하다는 것을 전제로, 인공지능 사회의 구성원으로서 갖추어야 할 인공지능 윤리의식과 가치 판단 능력을 함양하여 인공지능 시대의 사회적 책임과 공정성을 실천할 수 있도록 하는 데 중점을 두고 교수·학습을 구성하도록 한다.
- 인공지능의 발전으로 인한 사회의 변화를 조사하고 인공지능에 의해 변화할 미래 사회의 모습을 예측하는 과정에서 자신의 진로를 구체적으로 설계하기 위해 충분한 자료를 제공하도록 한다.
- 인공지능과 관련한 윤리적 쟁점 사례를 조사하고, 구체적인 사안을 주제로 하는 토론 활동의 과정에서 인공지능 윤리의 중요성과 인공지능과 인간의 관계를 올바르게 설명할 수 있는지를 평가하도록 한다. 이 과정에서 근거를 바탕으로 자신의 주장을 펼치고 타인의 견해를 존중하는 성숙한 토론 문화를 조성하도록 한다.
같은 영역의 다른 성취기준
왓퀴즈는 이런 AI예요
왓퀴즈는 한국 학교의 수업과 기록 업무에 맞춘 교사용 AI예요. 이 사전과 같은 2022 개정 교육과정 성취기준 데이터로 학습지, 수업 PPT, 평가계획서 초안을 만들고, 2026학년도 학교생활기록부 기재요령 원문을 바탕으로 세특 초안을 쓰고 기재 금지 표현을 검사해요.