AEX
-1.6800
Jacky Galicher, ancien directeur des systèmes d'information et de la sécurité des systèmes d'information (DSI-RSSI) de l'académie de Versailles, alerte sur les risques que fait peser l'intelligence artificielle sur le développement cognitif des mineurs. Dans une tribune publiée à l'occasion du Forum de Paris sur la Paix, il plaide pour une régulation stricte et trois exigences concrètes afin de protéger la souveraineté cognitive des enfants.
Jacky Galicher, ancien directeur des systèmes d'information et de la sécurité des systèmes d'information (DSI-RSSI) de l'académie de Versailles, formule un appel urgent à la prudence concernant le déploiement de l'intelligence artificielle auprès des plus jeunes. Dans une tribune publiée en marge du Forum de Paris sur la Paix qui s'est tenu le 10 novembre, il définit la souveraineté cognitive comme la capacité d'une organisation à conserver la maîtrise des modèles influençant ses raisonnements et soulève une question centrale : qui protège le jugement de ceux dont la formation n'est pas achevée ?
Cette réflexion s'inscrit dans le contexte de la coalition pour la protection de l'enfance à l'ère de l'IA, lancée en juillet dernier par la France, l'Espagne et le Kenya. La charte présentée lors du forum repose sur des engagements volontaires couvrant les méthodes d'évaluation, l'accès aux données et le soutien à la recherche indépendante. Ces initiatives prolongent la position défendue en septembre par le président de la République, selon laquelle l'intelligence artificielle ne doit pas être mise à disposition des enfants sans avoir fait l'objet de tests et d'évaluations préalables.
Cependant, Jacky Galicher insiste sur la nécessité de distinguer l'engagement politique de la preuve scientifique. Il rappelle que les effets à long terme de l'IA générative sur le développement cognitif restent mal établis. Les travaux disponibles sont encore peu nombreux et ne permettent pas de tirer des conclusions définitives sur leurs conséquences durables. Une prépublication, non soumise à la relecture par les pairs, a observé par imagerie par résonance magnétique (IRM) que les réseaux du contrôle et de l'attention étaient moins liés entre eux chez des enfants de six à sept ans que chez des adultes lors d'une conversation avec ChatGPT. Mais cette étude ne comportait pas de groupe témoin sans IA ; elle décrit une différence liée à l'âge plutôt qu'un effet causal de l'outil. Cette incertitude justifie, selon l'auteur, l'impératif d'organiser l'évaluation avant tout déploiement.
Pour Jacky Galicher, la dépendance à un modèle unique présente des risques distincts selon l'âge. Si elle constitue un risque de gouvernance pour un adulte, qui peut comparer, contester ou changer de fournisseur, elle touche à la formation même du jugement chez l'enfant. Un élève apprenant avec un seul modèle n'a pas encore les moyens de savoir qu'il pourrait raisonner autrement. Le pluralisme des modèles, défendu par l'auteur pour les administrations, revêt ici une portée plus profonde : il conditionne ce qu'une génération considérera comme une réponse normale.
L'école, lieu où la décision d'équiper se prend de façon publique et documentée, doit appliquer la méthode connue d'analyse des risques avant la mise en service. Les sanctions annoncées le 9 novembre par la Commission nationale de l'informatique et des libertés (CNIL) contre des collectivités, avec des amendes allant de 3 000 à 20 000 euros, ne portaient pas directement sur des déploiements d'IA. Elles visaient l'absence d'analyse d'impact sur des téléservices scolaires, rappelant que cette méthode vaut pour tout traitement à risque touchant des mineurs et a fortiori pour l'IA.
Pour passer de la déclaration à la preuve, Jacky Galicher propose trois exigences. Premièrement, évaluer avant d'équiper : l'analyse des risques pour les mineurs doit précéder le déploiement. Deuxièmement, exiger des preuves des éditeurs : résultats de tests, accès des chercheurs indépendants aux modèles et réponses claires sur l'usage prévu selon l'âge. Une clause de conformité ne suffit pas. Troisièmement, préserver le pluralisme à l'école en empêchant qu'un établissement ou un élève soit enfermé dans un fournisseur unique. Cela suppose une expertise mutualisée au niveau des rectorats et des régions, les petites collectivités ne pouvant auditer seules un modèle.
Il ne s'agit pas d'interdire l'IA à l'école, qui peut servir l'apprentissage si elle est utilisée avec méthode. L'enjeu est de ne pas confier la formation du jugement à des systèmes dont personne n'a vérifié les critères. Une démocratie peut survivre à une dépendance technologique, mais supporte moins bien qu'une génération apprenne à penser à travers des filtres qu'elle n'a pas choisis. Protéger la souveraineté cognitive, c'est d'abord protéger celle des enfants.
T.Shimizu--JT