Microsoft e sindicatos de professores estabelecem padrão de privacidade de IA para escolas com força contratual

Distritos escolares dos Estados Unidos poderão acrescentar a seus contratos com a Microsoft proteções de privacidade e segurança de IA juridicamente exigíveis, conforme um novo acordo negociado com dirigentes da Federação Americana de Professores e da Federação Unida de Professores.

O padrão de 30 páginas proíbe que dados de estudantes e educadores sejam vendidos, usados para publicidade ou utilizados para treinar modelos de IA, salvo exceções restritas relacionadas à segurança. Também proíbe o rastreamento de estudantes e chatbots de companhia baseados em IA, além de exigir supervisão humana das decisões de IA. As famílias devem receber informações em linguagem clara sobre como funcionam as ferramentas de IA das escolas, enquanto os distritos mantêm o controle sobre a coleta, o armazenamento e a exclusão de dados e sobre novos recursos dos produtos.

O acordo acrescenta medidas práticas para garantir o cumprimento das regras. A Microsoft estará sujeita a exigências de auditoria e certificação, e violações de dados deverão ser comunicadas em até 72 horas e tratadas. Distritos que incorporarem as disposições poderão cancelar contratos e buscar indenização quando as regras forem descumpridas.

O padrão não endossa nem proíbe a IA em sala de aula. Os dirigentes sindicais continuam apoiando as restrições temporárias da cidade de Nova York à IA voltada aos estudantes e buscam compromissos semelhantes de outros desenvolvedores. Também permanecem questões importantes: dados de uso desidentificados ainda poderão ser utilizados para melhorar produtos, e pesquisas sugerem que informações anonimizadas às vezes podem ser novamente associadas a indivíduos. Ainda assim, o acordo substitui promessas genéricas por obrigações contratuais cujo cumprimento as escolas podem exigir.