New York crée des règles pour l'IA dans ses écoles, critiquées par des parents furieux

 "Ce que l'IA peut faire ou pas." Voilà l'en-tête du cadre spécifique publié en mars par le département de l'éducation de New York.

 Le document se veut concret, avec un système de feux tricolores. Parmi les tâches que l'IA "ne sera jamais autorisée à faire dans nos écoles", l'évaluation des élèves ou leur orientation.

 Au feu orange, celui des cas "qui nécessitent un discernement attentif", l'utilisation par les élèves, autorisés à solliciter l'IA pour de "la recherche, de l'exploration et des projets créatifs".

 Ouvert à commentaires durant 45 jours, ce canevas a déclenché un vent de colère chez des parents d'élèves avec, comme point culminant, une réunion publique qui aura duré sept heures.

 Une coalition de plusieurs associations locales a demandé un moratoire de deux ans sur l'IA en milieu scolaire à New York.

 "Ces règles manquent cruellement de détails", estime Liat Olenick, co-fondatrice de l'association Climate Families NYC.

 "Elles ne répondent pas à beaucoup de sujets d'inquiétude", poursuit-elle, de l'impact sur l'environnement à la santé mentale des jeunes, en passant par "le développement cognitif" des élèves.

 "Il faut un processus rigoureux qui prenne en compte les parents, les enseignants et les élèves", dit-elle, "mais aussi des neuroscientifiques, des climatologues, des experts éducatifs".

 Sollicité par l'AFP, le département de l'éducation municipal a dit que le règlement était "seulement une première étape", en attendant un "livret" plus complet, "plus tard cette année", qui tiendra compte des retours de la consultation.

  "Dicter nos conditions" 

 Fin mai, le recteur de New York, Kamar Samuels, a estimé que les autorités avaient "raté le coche" dans leur communication et assuré que ses services "étudiaient de très près" la possibilité de consignes plus contraignantes pour l'usage par les plus jeunes, selon des propos rapportés par le site Chalkbeat.

 Quelques jours plus tard, l'un des deux grands syndicats d'enseignants, le New York State United Teachers (NYSUT), a plaidé pour "des limites appropriées au temps d'écran et à l'intelligence artificielle dans les écoles de New York".

 Il réclame notamment l'interdiction d'un contact direct avec l'IA de la maternelle au CE1 et pas d'utilisation non supervisée jusqu'à la fin du lycée.

 "Les éducateurs ne sont pas contre la technologie", a affirmé Melinda Person, président du NYSUT. "Ils sont en faveur les enfants."

 En l'état, chaque école décide des instruments (d'IA) qu'elle souhaite utiliser (ou pas), l'idée étant que les établissements perçoivent le mieux les besoins de leurs élèves, explique le département de l'éducation.

 Chaque logiciel d'IA doit néanmoins faire l'objet d'une homologation de la ville, surtout axée sur la protection des données personnelles.

 De nombreux parents et enseignants reprochent aux autorités locales d'être sous l'influence des grands groupes du secteur.

 "Educateurs, parents et familles devraient orienter les décisions sur l'utilisation de cette technologie dans les salles de classe, pas les entreprises technologiques", exhorte le NYSUT.

 Chicago ou Los Angeles ont déjà été plus loin que la capitale culturelle des Etats-Unis, souligne Naveed Hasan, parent et membre du PEP, conseil de supervision du système éducatif public à New York, qui compte plus de 900.000 élèves.

 "Mais si New York prend une direction, cela influencera l'ensemble du marché, y compris les prestataires", dit-il. "Donc nous devrions pouvoir dicter nos conditions, faire en sorte que tout cela soit fait avant tout pour le bien des enfants."

 Programmeur informatique, il se dit favorable à la création d'infrastructures IA propres à la ville de New York, avec centre de données et modèles d'intelligence artificielle dédiés.

 "Si New York, avec son budget gigantesque (45 milliards de dollars pour l'éducation cette année), n'y arrive pas", dit-il, "qui le pourra?".