Microsoft y sindicatos docentes fijan una norma de privacidad de la IA jurídicamente exigible para las escuelas

Los distritos escolares de Estados Unidos podrán añadir garantías de privacidad y seguridad de la IA jurídicamente exigibles a sus contratos con Microsoft, en virtud de un nuevo acuerdo negociado con dirigentes de American Federation of Teachers y United Federation of Teachers.

La norma de 30 páginas prohíbe vender los datos de estudiantes y docentes, utilizarlos para publicidad o emplearlos para entrenar modelos de IA, salvo excepciones limitadas relacionadas con la seguridad. También prohíbe el seguimiento de estudiantes y los chatbots de compañía con IA, y exige supervisión humana de las decisiones de la IA. Las familias deberán recibir información en lenguaje claro sobre el funcionamiento de las herramientas escolares de IA, mientras que los distritos conservarán el control sobre la recopilación, el almacenamiento y la eliminación de datos, así como sobre las nuevas funciones de los productos.

El acuerdo incorpora medidas prácticas para garantizar su cumplimiento. Microsoft deberá cumplir requisitos de auditoría y certificación, y las brechas de seguridad de datos deberán notificarse en un plazo de 72 horas y subsanarse. Los distritos que incorporen estas disposiciones podrán rescindir los contratos y reclamar una indemnización cuando se incumplan las normas.

La norma no respalda ni prohíbe la IA en las aulas. Los dirigentes sindicales siguen apoyando las restricciones temporales de la ciudad de Nueva York a la IA destinada a estudiantes y buscan compromisos similares de otros desarrolladores. También quedan cuestiones importantes por resolver: los datos de uso desidentificados aún pueden utilizarse para mejorar productos, y algunas investigaciones indican que, en ocasiones, la información anonimizada puede volver a vincularse con personas concretas. Aun así, el acuerdo sustituye las promesas generales por obligaciones contractuales que las escuelas pueden hacer cumplir.