Microsoft et des syndicats d’enseignants établissent une norme contraignante de protection des données pour l’IA à l’école

Les districts scolaires américains pourront ajouter à leurs contrats avec Microsoft des protections juridiquement contraignantes en matière de confidentialité et de sécurité de l’IA, grâce à un nouvel accord négocié avec les dirigeants de l’American Federation of Teachers et de l’United Federation of Teachers.

Cette norme de 30 pages interdit la vente des données des élèves et des personnels éducatifs, leur utilisation à des fins publicitaires ou pour entraîner des modèles d’IA, à l’exception de dérogations limitées liées à la sécurité. Elle interdit également le suivi des élèves et les agents conversationnels d’IA conçus comme des compagnons, et impose une supervision humaine des décisions prises par l’IA. Les familles doivent recevoir des informations en langage clair sur le fonctionnement des outils d’IA scolaires, tandis que les districts conservent le contrôle de la collecte, du stockage et de la suppression des données, ainsi que des nouvelles fonctionnalités des produits.

L’accord prévoit des moyens concrets de faire respecter ces règles. Microsoft sera soumis à des exigences d’audit et de certification, et les violations de données devront être signalées dans les 72 heures et faire l’objet de mesures correctives. Les districts qui intègrent ces dispositions pourront résilier leurs contrats et demander des dommages-intérêts en cas de manquement.

La norme ne préconise ni n’interdit l’IA en classe. Les dirigeants syndicaux continuent de soutenir les restrictions temporaires de la ville de New York sur l’IA destinée aux élèves et cherchent à obtenir des engagements similaires d’autres développeurs. Des questions importantes subsistent également : les données d’utilisation désidentifiées pourront toujours servir à améliorer les produits, et des recherches montrent qu’il est parfois possible de relier des informations anonymisées à des individus. L’accord remplace néanmoins de larges promesses par des obligations contractuelles que les établissements peuvent faire respecter.