[UNESCO 교육과 연구에서 생성AI를 위한 가이드]

[요약] 생성AI 사용에 대한 인간 중심 접근 방식

1) 배경
- 생성AI의 출시와 업데이트가 국가별 규제 프레임워크의 속도보다 빠름. 대부분의 국가에서 생성AI에 대한 규제가 없어 사용자의 데이터가 보호되지 않고 있으며, 교육기관은 이러한 도구를 검증할 준비가 거의 되어 있지 않음.

2) UNESCO의 첫 번째 교육 분야 생성AI 글로벌 가이드의 목표
- 각국의 즉각적 조치와 장기적 정책을 계획하며, 인간 중심적인 신기술 비전을 보장하기 위한 인적 역량 개발을 지원하는 것

3) 가이드가 제공하는 것
- 인간의 주도성(agency), 포용성, 형평성, 성평등, 언어 및 문화적 다양성, 다양한 의견과 표현을 촉진하는 핵심 인본주의적 가치에 대해 생성AI가 초래할 수 있는 잠재적 위험에 대한 평가 제시
- 데이터 보호 의무화, 연령 제한 고려 등 정부 기관이 생성AI 사용을 규제하기 위한 주요 단계 제안
- 생성AI 제공 업체가 윤리적이고 효과적으로 교육에 사용할 수 있도록 하는 요건 설명
- 생성AI 시스템의 윤리적, 교육적 적합성을 교육에 맞게 검증할 필요성 강조
- 국제 사회에 지식, 교수, 학습, 평가에 대한 장기적 영향을 성찰할 것을 촉구
- 정책 입안자와 교육 기관을 위해 인간의 주도성을 보호하고, 학생, 교사, 연구자에게 진정으로 도움이 될 수 있도록 생성AI 도구를 설계하는 방법에 대한 구체적인 권장 사항 제시

* 목차

1. 생성AI란 무엇이며 어떻게 작동하는가
1.1. 생성AI란
1.2. 생성AI는 어떻게 작동하는가
1.3. 원하는 결과를 생성하는 프롬프트 엔지니어링
1.4. EdGPT의 대두와 시사점

2. 생성AI를 둘러싼 논란과 교육에 미치는 영향
2-1. 디지털 빈곤 악화
2-2. 국제 규제 적용에 선행
2-3. 동의 없는 콘텐츠 사용
2-4. 생성에 사용되는 설명 불가능한 모델
2-5. 인터넷을 오염시키는 AI 생성 콘텐츠
2-6. 현실 세계에 대한 이해 부족
2-7. 의견의 다양성 감소 및 소외된 목소리의 소외 심화
2-8. 더 심각한 딥페이크 생성

3. 교육에서의 생성AI 사용 규제
3-1. AI에 대한 인간 중심 접근
3-2. 교육에서 생성AI 규제 단계
　· 1단계. 국제 또는 지역의 일반 데이터 보호 규정(GDPRs)을 채택하거나 개발할 것
　· 2단계. AI에 대한 범정부 차원의 전략을 채택/수정하고 자금을 지원할 것
　· 3단계. AI 윤리에 대한 구체적인 규정을 강화하고 시행할 것
　· 4단계. AI가 생성한 콘텐츠를 규제하기 위해 기존 저작권법을 조정하거나 시행할 것
　· 5단계. 생성AI에 대한 규제 프레임워크를 정교화할 것
　· 6단계. 교육 및 연구에서 생성AI를 적절히 사용하기 위한 역량을 구축할 것
　· 7단계. 교육 및 연구에 대한 생성AI의 장기적 영향에 대해 성찰할 것
3-3. 생성AI 규제: 핵심 요소

4. 교육 및 연구에서 생성AI 활용을 위한 정책 프레임워크 방향
4-1. 포용성, 형평성, 언어 및 문화적 다양성 증진
4-2. 인간 주도성 보호
4-3. 교육에서 생성AI 시스템의 모니터링과 검증
4-4. 생성AI 관련 스킬을 비롯한 학습자 AI 역량 개발
4-5. 생성AI의 적절한 사용을 위한 교사와 연구자 역량 구축
4-6. 다른 의견과 다양한 아이디어 표현 장려
4-7. 지역에 적합한 적용 모델을 테스트하고 증거 기반 구축
4-8. 부문/학제간 방식으로 장기적 영향 검토

5. 교육 및 연구에서 생성AI의 창의적 사용 촉진
5-1. 책임 있고 창의적인 생성AI 사용을 촉진하기 위한 제도적 전략
5-2. 인간 중심적이고 교육적으로 적절한 상호작용 접근
5-3. 교육 및 연구에서 생성AI 활용을 위한 공동 설계

6. 생성AI와 교육 및 연구의 미래
6-1. 알려지지 않은 윤리적 문제
6-2. 저작권 및 지적 재산권
6-3. 콘텐츠 출처와 학습
6-4. 획일화된 반응 vs. 다양하고 창의적인 결과물
6-5. 평가 및 학습 재고
6-6. 사고 과정