[미국 교육부 교육기술국 에듀테크 증거 툴킷]
- 미국 초중등 교육법(The Elementary and Secondary Education Act, ESEA)은 에듀테크 사용에 대한 증거 기반 의사결정을 우선시할 것을 권장함.
- 이에 미국 교육기술국은 에듀테크 증거 툴킷을 개발함.
<1 page 증거 시리즈: 각 단계별 의미와 사례 연구 제시>
* 4단계(Demonstrating a Rationale, 증거 제시)
- 에듀테크 사용의 효과에 대한 기존 증거를 보여주는 문헌 연구 수행
- 에듀테크 사용의 요소, 활동, 관련 성과와의 관계 등을 설명하는 논리적 모델 개발
- 논리적 모델에 기반하여 학교/학군의 소규모의 사용자를 대상으로 한 에듀테크 사용 파일럿 테스트
- 설문조사, 활동 로그, 평가 데이터 등 파일럿 테스트에서의 에듀테크 사용과 관련된 결과를 보여주는 사용자 피드백 수집
- 파일럿 테스트를 통한 인사이트 및 피드백을 바탕으로 에듀테크 사용의 보다 엄격한 증거(3단계)를 구축하기 위한 계획 수립
- (사례) 100명의 학생을 대상으로 8주 동안 3회씩 과학 앱을 사용하고, 과학 정체성을 사전-사후에 비교함.
* 3단계(Promising Evidence, 기대되는 증거)
- 에듀테크 사용과 관련된 학습자 성취도를 정확하게 평가하여 고품질의 성과 측정
- 개입와 결과 간 관계를 분석하기 위하여 에듀테크 사용 전, 중, 후에 수집된 행정 데이터 사용
- 통계 소프트웨어를 사용하여 개입과 결과 간 상관 분석(통제 변수 포함)
- 실행의 품질 및 기타 요인을 파악하고 통계적 관계의 맥락을 파악하기 위해 교실 관찰 시행
- (사례) 2개 학교의 4개 학급을 대상으로 12주 동안 주 2회 세션당 15분 간 과학 앱을 사용하고, 과학 정체성을 사전-사후에 측정. 통계 소프트웨어로 사후 성적에 대한 앱 사용의 예측력을 확인하는 회귀분석 실시(학습자 인구통계학적 변인 및 학교 특성 변인 통제)
* 2단계(Moderate Evidence, 중간 증거)
- 사전-사후에 실험군과 대조군을 대상으로 에듀테크 사용의 결과와 관련된 데이터 수집
- 사전 테스트를 통제하고 실험군과 대조군의 결과를 비교하여 에듀테크 사용이 통계적으로 유의한 영향을 미쳤는지 확인
- 컷오프에 가까운 학습자들 간의 결과를 비교하여 개입의 효과 분석
- 회귀분석과 같은 통계적 방법을 사용하여 개입과 결과 사이의 관계에 영향을 미치는 잠재적 요소(연령, 성별, 학년 등) 통제
- (사례) 학군 내 A/B학교 = 실험군, C/D학교 = 대조군으로 설정, 사전 동질성 확인. 실험군 대상으로 주 3회씩 24주 간 과학 앱 사용. 사전-사후 과학 정체성 측정, 대조군과 비교
* 1단계(Strong Evidence, 강력한 증거)
- 모집단에서 연구 집단 선정
- 실험 설계(예: randomized controlled trial)를 활용하여 연구 집단을 대조군과 실험군으로 무작위로 할당
- 실험군은 에듀테크 개입, 대조군은 전통적 방식으로 교육
- 에듀테크 개입이 결과에 유의한 영향을 미쳤는지 확인하기 위해 대조군과 실험군의 데이터를 수집하고 분석
- 회귀분석과 같은 통계적 방법을 사용하여 개입과 결과 사이에 영향을 미치는 변인(연령, 성별, 학년 등) 통제
- (사례) 무작위로 2개 학군 4개 학교의 16개 반을 실험군과 대조군으로 할당, 실험군에게는 주3회씩 24주 간 과학 앱 사용. 사전-사후 과학 정체성 측정, 대조군과 비교