Initiation à l’Intelligence Artificielle Générative à l’attention de la communauté universitaire
4. L’IA Générative
4.4. Les risques éthiques et légaux... et quelques recommandations d’usage
L’intégration des IA génératives dans l’environnement professionnel et éducatif pose des questions éthiques et légales majeures, tant lors des phases de conception et d’entraînement des outils d’IA générative que lors de leur usage (Université de Genève, 2024 ; Université de Lorraine, 2025 ; Université TÉLUQ, 2025).
Opacité des données et du traitement de l’information
Le manque de transparence dans le fonctionnement de l’IAG peut s’expliquer de deux manières. D’une part, la majorité des outils ne permettent pas de vérifier à partir de quelles données d’entraînement ils génèrent du contenu. D’autre part, il est difficile, voire impossible de comprendre comment ces outils arrivent aux résultats qu’ils génèrent. Ces outils fonctionnent ainsi comme des « boites noires » dont le traitement de l’information qui y est opéré est opaque. Cela est d’autant plus vrai quand il s’agit d’un outil commercial ou dont le code source n’est pas accessible.
Cette opacité pose également des questions de fiabilité, dans la mesure où l’IAG est sujette à des hallucinations et peut produire des informations erronées ou inventées. De plus, les biais de représentativité présents dans les données d’entraînement peuvent se retrouver amplifiés dans les résultats générés.
Voici quelques comportements permettant de questionner des informations récoltées ou être transparent dans vos éventuels usages :
- Adoptez une position critique et vérifiez les informations produites par l’IAG ;
- Indiquez les outils d’IAG et pourquoi vous les avez utilisés dans votre travail ;
- Listez les prompts qui ont servi à votre production.
Vous souhaitez tester votre capacité à détecter des productions d’images de visages (que l’on retrouve communément dans le phénomène de Deepfake2) à partir de photos générées par IA ? (rafraîchir page pour les faire défiler) : https://thispersondoesnotexist.com/
2 Le phénomène de deepfake, ou hypertrucage, se réfère à des images, des vidéos ou des enregistrements audios créés en utilisant des technologies d’IAG et qui ont comme objectif de tromper leur auditoire. Ces contenus faux mais crédibles sont associés à des risques nombreux : désinformation politique, atteinte à l’image, chantage, intimidation, ... (Mustak et al., 2023 ; Robichaud-Durand, 2024).
Protection des données et confidentialité
Les données soumises à un outil d’IAG sont susceptibles d’être utilisées pour entraîner un modèle ou consultées par le personnel de l’entreprise propriétaire. Par ailleurs, en cas de faille de sécurité, des données sensibles ou confidentielles peuvent fuiter et risquer d’être divulguées.
Il est donc essentiel de respecter plusieurs règles :
- Ne fournissez que les informations strictement nécessaires pour obtenir le résultat souhaité ;
- Anonymisez les données afin de préserver la confidentialité des individus ;
- N’envoyez pas de données sensibles.
Propriété intellectuelle
Les données utilisées pour entraîner les grands modèles de langage ne sont pas toutes libres de droits. En s’appuyant sur ces données, il existe un risque pour que l’IAG génère un contenu allant à l’encontre du droit d’auteur.
Utilisez l’IAG pour structurer vos idées plutôt que comme un outil de rédaction.
Intégrité intellectuelle et académique
Les outils d’IAG pourraient permettre à des apprenants et apprenantes de faire passer pour leur propre travail un texte qu’ils n’ont pas écrit, ce qui constituerait un nouveau type de « plagiat » (UNESCO, 2024). La question est discutée à la fois au niveau européen, national et dans les établissements pour faire respecter la déontologie académique et renforcer la responsabilité de chacun.
De nombreux établissements ont proposé des pistes pour encadrer et favoriser la transparence dans le recours à des outils d’IAG :
- Conserver les traces de ses prompts et des rédactions de l’IA ;
- Mentionner le type d’usage ;
- Proposer un retour critique de son utilisation.
Équité et inclusion
Les outils d’IAG peuvent accroître les disparités existantes dans l’accès à la technologie et aux ressources éducatives, aggravant encore les inégalités (UNESCO, 2024). En 2019, le Consensus de Beijing sur l’intelligence artificielle et l’éducation avait d’ailleurs appelé à des actions complémentaires pour garantir un accès équitable à l’IA dans le but de soutenir les personnes marginalisées et de lutter contre les inégalités, tout en promouvant la diversité linguistique et culturelle.
Apprentissages
Un rapport récent de l’UNESCO (2024) indique que les systèmes d’IAG dans l’éducation sont susceptibles de limiter l’autonomie et l’action des apprenants et apprenantes en fournissant des solutions préconçues ou en réduisant l’éventail des expériences d’apprentissage possibles. Il souligne en outre l’importance d’étudier leur impact à long terme sur le développement intellectuel des apprenants et apprenantes.