Initiation à l’Intelligence Artificielle Générative à l’attention de la communauté universitaire

L'IAG est un outil puissant, mais elle n'est pas adaptée à toutes les tâches. Voici quelques exemples de tâches pour lesquelles le recours à l’IAG est soit déconseillé, soit à utiliser avec beaucoup de prudence le cas échéant.

Résumer un document très long

Analyse partielle

Il s’agit de rester attentif à la fenêtre de contexte, qui correspond globalement à la quantité de texte qui est conservée pendant une même conversation. Si la quantité de texte soumise à l’outil dépasse sa fenêtre de contexte, il peut manquer des informations importantes ou des détails essentiels à la compréhension du texte original dans les éléments produits (Manzinali, 2024 ; Vangrunderbeeck et al., 2024).

Manque de compréhension du sens

Les IAG ne comprennent pas le sens du texte de la même manière qu'un humain le ferait. L’outil peut avoir des difficultés à saisir les subtilités et les nuances d'un texte complexe (Université de Genève, 2024).

Effectuer une recherche bibliographique

Risque d'hallucinations

L'IAG peut inventer des références ou des sources qui n'existent pas, tout en les présentant comme avérées (avec des références parfois plausibles, dont les liens peuvent amener à des revues existantes mais des articles… inexistants !). Ces risques sont d’autant plus importants si le sujet est très précis et donc peu documenté dans les données d’entraînement (Manzinali, 2024).

Nécessité de vérification

L'IAG ne constitue pas un moteur de recherche ni des sources académiques. Il est crucial de vérifier les références fournies par l'IAG avec d'autres sources fiables.

Déléguer la rédaction d’un CV ou d’une lettre de motivation

Manque d'originalité et de personnalisation

L'IAG peut produire des résultats très génériques. Si votre candidature ressemble au copié-collé d’un modèle trouvé sur Internet (qui est un autre piège courant), vous n’avez aucune chance d’être recontacté.e.

Protection des données

Il est également essentiel d’être attentif aux données personnelles que vous fourniriez à l’outil !

Recommandations

Vos documents de candidature doivent être reliés aux missions spécifiques de l’entreprise (pour un stage ou une candidature spontanée), à l’offre (pour un emploi), ou aux spécificités de la formation (pour l’entrée dans une filière sélective). Si nécessaire, recourir à l’IAG peut être utile soit pour ébaucher un brouillon de premier jet avant de vous lancer dans la rédaction, soit pour contrôler la pertinence, le style ou l’orthographe d’un document déjà bien abouti.

Confier à l’outil les prémices de son expertise

Dégradation du développement des compétences

L’apprentissage humain est un cheminement, qui nécessite de comprendre des concepts, assimiler des connaissances, réfléchir, reformuler, analyser, synthétiser : c’est un processus qui prend du temps. Par ailleurs, le développement des compétences s’appuie sur une bonne compréhension des processus qui sous-tendent les phénomènes étudiés dans son domaine d’études. En 2023, le Comité national pilote d’éthique du numérique a souligné qu’il est nécessaire de préserver l’apprentissage du raisonnement sans recourir à des outils d’IAG. En effet, si le développement des compétences n’est pas entretenu au fil du temps et renforcé par une pratique régulière, ces dernières risqueraient de ne pas se développer, voire stagner ou se détériorer (Avignon Université, 2024 ; Villani, 2024).

Érosion de l’esprit critique et de la créativité

L'IAG ne possède pas de capacité critique et ne peut donc pas évaluer la pertinence ou la validité du contenu. Si le premier réflexe d’un utilisateur ou d’une utilisatrice est d’effectuer une requête pour obtenir des pistes de raisonnement ou des idées, il sera d’autant plus difficile de mobiliser ces capacités dans le futur (Avignon Université, 2024). Un usage trop fréquent risquerait ainsi d’empêcher le développement de sa propre pensée critique ou de sa créativité.

Risque de dépendance à l’outil

Une utilisation excessive de l'IAG peut tout d’abord conduire à une compréhension superficielle de son domaine d’études. Cela peut entraîner deux conséquences. D’une part, une apprenante ou un apprenant récompensé·e par une note acceptable sera d’autant plus motivé·e pour l’utiliser à nouveau. D’autre part, cela peut devenir problématique lorsqu’on est ensuite confronté à des situations d’apprentissage ou d’évaluation sans assistance technologique, surtout si elles sont vécues comme des expériences négatives. Ce qui peut être assimilé à une récompense (une « bonne note ») en cas d’usage de l’IAG, associée au stress dans les situations où on ne peut pas y avoir recours crée toutes les conditions requises pour faire naître une habitude, qui risque d’entraîner progressivement une dépendance technologique (Avignon Université, 2024).