Microsoft și sindicatele profesorilor stabilesc un standard cu forță juridică pentru protecția datelor în utilizarea IA în școli

Districtele școlare din SUA vor putea include în contractele cu Microsoft garanții de confidențialitate și siguranță privind inteligența artificială, a căror respectare poate fi impusă pe cale juridică, în baza unui nou acord negociat cu liderii Federației Americane a Profesorilor și ai Federației Unite a Profesorilor.

Standardul de 30 de pagini interzice vânzarea datelor elevilor și cadrelor didactice, utilizarea lor pentru publicitate sau pentru antrenarea modelelor de IA, cu excepția unor derogări limitate legate de siguranță. De asemenea, interzice urmărirea elevilor și chatboții de tip companion bazați pe IA și impune supravegherea umană a deciziilor IA. Familiile trebuie să primească informații într-un limbaj accesibil despre modul în care funcționează instrumentele de IA ale școlii, iar districtele păstrează controlul asupra colectării, stocării și ștergerii datelor, precum și asupra noilor funcționalități ale produselor.

Acordul adaugă măsuri practice de asigurare a respectării regulilor. Microsoft va fi supusă unor cerințe de audit și certificare, iar breșele de securitate a datelor trebuie raportate în termen de 72 de ore și remediate. Districtele care includ aceste prevederi pot rezilia contractele și solicita despăgubiri atunci când regulile sunt încălcate.

Standardul nici nu recomandă, nici nu interzice IA la clasă. Liderii sindicali continuă să susțină restricțiile temporare ale orașului New York privind IA destinată elevilor și urmăresc să obțină angajamente similare de la alți dezvoltatori. Rămân și întrebări importante: datele de utilizare din care au fost eliminați identificatorii pot fi în continuare folosite pentru îmbunătățirea produselor, iar cercetările sugerează că informațiile anonimizate pot fi uneori asociate din nou cu persoane. Chiar și așa, acordul înlocuiește promisiunile generale cu obligații contractuale a căror respectare poate fi impusă de școli.