Microsoftと教員組合、学校向けに法的強制力のあるAIプライバシー基準を策定

全米教員連盟とニューヨーク市教員連盟の幹部との交渉で成立した新たな合意により、米国の学区は、AIのプライバシーと安全性に関する法的強制力のある保護条項をMicrosoftとの契約に追加できるようになる。

30ページにわたる基準は、安全に関する限定的な例外を除き、生徒や教育者のデータを販売したり、広告やAIモデルの学習に使ったりすることを禁じる。また、生徒の追跡とAIコンパニオン型チャットボットを禁止し、AIによる判断には人間の監督を求める。家庭には、学校のAIツールがどのように機能するかを平易な言葉で説明する必要があり、学区はデータの収集、保存、削除、新たな製品機能に関する管理権を保持する。

合意には、実効性を確保するための具体的な措置も盛り込まれている。Microsoftには監査と認証の要件が課され、データ漏えいは72時間以内に報告し、対処しなければならない。条項を契約に組み込んだ学区は、違反があった場合、契約を解除し、損害賠償を求められる。

この基準は、教室でのAI利用を推奨するものでも禁止するものでもない。組合幹部は引き続き、生徒向けAIに対するニューヨーク市の一時的な制限を支持し、他の開発企業にも同様の約束を求めている。重要な課題も残る。個人を特定する情報を除いた利用データは、なお製品改善に使用でき、研究では、匿名化された情報でも個人に結びつけられる場合があることが示されている。それでもこの合意は、抽象的な約束を、学校が履行を求められる契約上の義務に置き換えるものだ。