Microsoft와 교원노조, 학교용 AI에 법적 집행력 갖춘 개인정보 보호 기준 마련

미국 학군들은 미국교사연맹과 통합교사노조 지도부와의 협상을 통해 마련된 새로운 합의에 따라 Microsoft와의 계약에 법적으로 집행 가능한 AI 개인정보 보호 및 안전 조항을 추가할 수 있게 됐다.

30쪽 분량의 기준은 제한적인 안전 관련 예외를 제외하고 학생과 교육자 데이터를 판매하거나 광고 또는 AI 모델 학습에 사용하는 것을 금지한다. 학생 추적과 AI 동반자 챗봇도 금지하며, AI의 결정에 대한 사람의 감독을 요구한다. 가정에는 학교의 AI 도구가 어떻게 작동하는지 쉬운 표현으로 설명해야 하며, 학군은 데이터 수집·저장·삭제와 새로운 제품 기능에 대한 통제권을 유지한다.

합의에는 실질적인 이행 확보 조치도 담겼다. Microsoft는 감사와 인증 요건을 준수해야 하며, 데이터 유출은 72시간 이내에 신고하고 대응해야 한다. 이 조항을 계약에 반영한 학군은 규정 위반 시 계약을 해지하고 손해배상을 청구할 수 있다.

이 기준은 교실 내 AI 사용을 지지하거나 금지하는 것은 아니다. 노조 지도부는 뉴욕시의 학생 대상 AI에 대한 임시 제한을 계속 지지하며, 다른 개발사에도 유사한 약속을 요구하고 있다. 중요한 쟁점도 남아 있다. 비식별화된 사용 데이터는 여전히 제품 개선에 활용될 수 있고, 연구에 따르면 익명화된 정보도 경우에 따라 개인과 다시 연결될 수 있다. 그럼에도 이번 합의는 포괄적인 약속을 학교가 이행을 요구할 수 있는 계약상 의무로 대체했다.