Intelligence artificielle : le Département adopte une charte éthique

Les citoyens et usagers doivent être informés de l'utilisation faite de l'intelligence artificielle et les algorithmes utilisés doivent être "compréhensibles et explicables". Concrètement, ce principe induit de signaler le recours à l'IA par des pictogrammes, mais aussi de mettre en place un plan de formation et de sensibilisation à l'utilisation de l'IA dans la sphère professionnelle pour les agents et encadrants. 

L'utilisation des outils d'intelligence artificielle générative doit respectée le règlement général de la Protection des données (RGPD), un texte réglementaire européen appliqué depuis 2018, qui encadre le traitement des données sur tout le territoire européen (UE). La protection des données personnelles doit être garantie. Elles ne doivent pas être exposées ou utilisées de manière abusive, gage de confiance des usagers envers les systèmes publics et privés utilisant l'IA. Le Département interdit l'utilisation de données souveraine (personnelles, confidentielles ou mentionnant le Département d'Ille-et-Vilaine dans des outils d'IA générative (ex: Copilot, ChatGPT, Claude, Mistral...).

"La charte interdit l'entrée de toute donnée nominative dans des outils d'IA. Une fois qu'on appuie sur "entrée", ces données ne nous appartiennent plus, elles sont utilisées à des fins d'entraînement pour les outils d'IA", précise Dominique Kergosien. 

Consulter le RGPD 

L'utilisation de l'IA ne doit pas mettre en péril la souveraineté numérique du Département, c'est-à-dire sa capacité à exercer un contrôle total sur les données traitées et les infrastructures technologiques. Les systèmes d'IA doivent être conçus et déployés de manière à minimiser les risques de cyberattaques et à protéger les données sensibles.

Malgré le recours à des algorithmes et à des technologies avancées, le Département s'engage à ce que l'humain ait toujours le dernier mot, principe dit de "primauté humaine". "Cela assure que les décisions finales sont prises par des êtres humains et non par des machines, ce qui permet de maintenir un contrôle éthique et moral sur les actions entreprises.", précise la charte. "C'est un point très important qui garantit que la supervision des décisions revient toujours à l'humain", ajoute Dominique Kergosien. 

Le Département d'Ille-et-Vilaine est engagé dans une démarche de numérique responsable, ce qui implique notamment un principe de sobriété pour réduire et limiter au maximum l'empreinte carbone et extractive, liée au numérique. Dans ce contexte, les technologies utilisées doivent être efficaces et performantes, mais également respectueuses de l'environnement et responsables sur le plan sociétal. Cela nécessite une évaluation rigoureuse des impacts de l'IA, pour en maximiser les bénéfices tout en minimisant les risques. 

"Les outils d'IA tels ChatGPT ne sont pas des moteurs de recherche. Une requête sur ChatGPT consomme environ 10 fois plus d'énergie qu'une recherche sur Google. Il faut savoir utiliser ces outils à bon escient", rappelle Dominique Kergosien, tout en précisant que "l'IA peut aussi être utilisée au service de la transition énergétique". 

L'utilisation de l'IA peut permettre par exemple d'optimiser la consommation énergétique des bâtiment, d'analyser les usages des véhicules de service, ou encore suivre la pollution de l'air ou de l'eau. 

L'usage des technologies d'IA doit respecter le principe d'équité et d'inclusivité. Ainsi, une vigilance particulière sera portée au risque de générer de la discrimination du fait de l'utilisation de l'IA. Des évaluations régulières seront réalisées pour identifier et corriger les éventuels biais algorithmiques.