Microsoft dan serikat guru menetapkan standar privasi AI yang dapat ditegakkan secara hukum bagi sekolah

Distrik sekolah di AS akan dapat menambahkan perlindungan privasi dan keselamatan AI yang dapat ditegakkan secara hukum ke dalam kontrak mereka dengan Microsoft berdasarkan kesepakatan baru yang dirundingkan bersama para pemimpin American Federation of Teachers dan United Federation of Teachers.

Standar setebal 30 halaman itu melarang penjualan data siswa dan pendidik, penggunaannya untuk iklan, atau pemanfaatannya untuk melatih model AI, dengan pengecualian terbatas terkait keselamatan. Standar ini juga melarang pelacakan siswa dan chatbot pendamping AI, serta mewajibkan pengawasan manusia atas keputusan AI. Keluarga harus menerima informasi dengan bahasa yang mudah dipahami tentang cara kerja alat AI sekolah, sementara distrik tetap memegang kendali atas pengumpulan, penyimpanan, dan penghapusan data, serta fitur produk baru.

Kesepakatan ini menambahkan langkah penegakan yang konkret. Microsoft akan tunduk pada persyaratan audit dan sertifikasi, sementara pelanggaran keamanan data harus dilaporkan dalam 72 jam dan ditangani. Distrik yang memasukkan ketentuan tersebut dapat membatalkan kontrak dan menuntut ganti rugi jika aturan dilanggar.

Standar ini tidak mendukung maupun melarang AI di ruang kelas. Para pemimpin serikat tetap mendukung pembatasan sementara Kota New York atas AI yang digunakan langsung oleh siswa dan mengupayakan komitmen serupa dari pengembang lain. Sejumlah pertanyaan penting juga masih tersisa: data penggunaan yang telah dihapus identitasnya masih boleh digunakan untuk meningkatkan produk, dan penelitian menunjukkan bahwa informasi yang dianonimkan terkadang dapat dikaitkan kembali dengan individu. Meski demikian, kesepakatan ini menggantikan janji-janji umum dengan kewajiban kontraktual yang dapat ditegakkan oleh sekolah.