Microsoft e i sindacati degli insegnanti fissano uno standard vincolante per la privacy dell’IA nelle scuole

I distretti scolastici statunitensi potranno aggiungere ai propri contratti con Microsoft tutele sulla privacy e sulla sicurezza dell’IA giuridicamente vincolanti, grazie a un nuovo accordo negoziato con i dirigenti dell’American Federation of Teachers e della United Federation of Teachers.

Lo standard di 30 pagine vieta la vendita dei dati di studenti ed educatori, il loro uso pubblicitario o per addestrare modelli di IA, salvo limitate eccezioni legate alla sicurezza. Proibisce inoltre il tracciamento degli studenti e i chatbot di compagnia basati sull’IA, e impone la supervisione umana delle decisioni dell’IA. Le famiglie devono ricevere informazioni in linguaggio chiaro sul funzionamento degli strumenti di IA scolastici, mentre i distretti mantengono il controllo sulla raccolta, conservazione e cancellazione dei dati e sulle nuove funzionalità dei prodotti.

L’accordo introduce misure concrete per garantirne il rispetto. Microsoft sarà soggetta a obblighi di audit e certificazione, e le violazioni dei dati dovranno essere segnalate entro 72 ore e affrontate. I distretti che incorporano queste disposizioni potranno risolvere i contratti e chiedere risarcimenti in caso di violazione delle regole.

Lo standard non approva né vieta l’IA in classe. I dirigenti sindacali continuano a sostenere le restrizioni temporanee di New York City sull’IA destinata agli studenti e cercano impegni analoghi da altri sviluppatori. Restano inoltre questioni importanti: i dati di utilizzo deidentificati potranno ancora essere impiegati per migliorare i prodotti, e la ricerca suggerisce che le informazioni anonimizzate possano talvolta essere ricondotte a singoli individui. Ciononostante, l’accordo sostituisce promesse generiche con obblighi contrattuali che le scuole possono far rispettare.