Microsoft e sindicatos de professores estabelecem norma vinculativa de privacidade da IA para escolas

Os distritos escolares dos Estados Unidos poderão acrescentar aos seus contratos com a Microsoft proteções de privacidade e segurança da IA juridicamente vinculativas, ao abrigo de um novo acordo negociado com dirigentes da American Federation of Teachers e da United Federation of Teachers.

A norma de 30 páginas proíbe a venda de dados de alunos e educadores, a sua utilização para publicidade ou para treinar modelos de IA, salvo exceções limitadas relacionadas com a segurança. Proíbe também o rastreio de alunos e os chatbots de companhia baseados em IA, e exige supervisão humana das decisões da IA. As famílias devem receber informações em linguagem clara sobre o funcionamento das ferramentas de IA nas escolas, enquanto os distritos mantêm o controlo sobre a recolha, o armazenamento e a eliminação de dados, bem como sobre novas funcionalidades dos produtos.

O acordo acrescenta medidas práticas para garantir o cumprimento. A Microsoft ficará sujeita a requisitos de auditoria e certificação, e as violações de dados terão de ser comunicadas no prazo de 72 horas e corrigidas. Os distritos que incorporem estas disposições poderão rescindir contratos e exigir indemnizações em caso de incumprimento.

A norma não recomenda nem proíbe a IA na sala de aula. Os dirigentes sindicais continuam a apoiar as restrições temporárias da cidade de Nova Iorque à IA destinada aos alunos e procuram compromissos semelhantes de outros criadores de tecnologia. Persistem também questões importantes: os dados de utilização desidentificados poderão continuar a ser usados para melhorar os produtos, e a investigação sugere que, por vezes, é possível voltar a associar informações anonimizadas a indivíduos. Ainda assim, o acordo substitui promessas genéricas por obrigações contratuais que as escolas podem fazer cumprir.