Initiation à l’Intelligence Artificielle Générative à l’attention de la communauté universitaire

Les biais

Un biais consiste à prendre en compte des informations non pertinentes, ou au contraire à ignorer des informations pertinentes. Il conduit à une distorsion de la perception d’une réalité plus objective et à des erreurs de jugement. Ces représentations erronées peuvent autant concerner les humains que les machines… Pour ces dernières, les biais peuvent concerner les données d’entraînement ou la génération de contenu (on parle alors de biais algorithmiques).

L’apparition de biais repose sur plusieurs facteurs.

Il y a d'abord le corpus choisi pour entraîner le modèle s’il comporte des biais au départ. Si les données et les corpus d’entraînement de l’IAG sont biaisés, les résultats le refléteront. On peut par exemple observer divers types de biais de représentativité, qui est commun à la fois aux humains et aux machines (Université du Québec à Montréal, 2024) :

• Linguistiques : exemple : prédominance de l’anglais par rapport aux autres langues ;
• Démographiques : exemple : prédominance d'une vision masculine, blanche et hétérosexuelle, ce qui peut mener au sexisme, au racisme, et à l’homophobie, etc. ;
• Culturels : exemple : perpétuation de stéréotypes ou de préjugés culturels favorisant l'Occident ;
• Idéologiques : exemple : favorisant une posture politique ou sociale qui s'opposerait à l'avortement.

¹ Open source signifie qu’il s’agit d’un logiciel libre et conçu pour être accessible au public. Il est non seulement utilisable, mais également accessible, modifiable et distribuable par tout le monde (pour peu qu’on soit capable de le comprendre et de l’adapter à ses besoins ou à ceux de sa communauté !).

Les biais spécifiques aux humains ou aux machines

Les personnes modératrices, les utilisatrices et utilisateurs, les décisions des propriétaires (tant politiques que dans la conception), et enfin les algorithmes employés pour traiter les données (du côté des machines) peuvent également introduire d’autres types de biais (Ferrara, 2023).

Parmi les autres biais récurrents se trouve par exemple le biais de confirmation, qui consiste à privilégier la recherche, la rétention et les croyances qui s’alignent avec nos propres croyances et valeurs. Dès lors, nous avons tendance à prêter moins d’attention, voire mettre de côté les informations qui pourraient nous aider à les remettre en question (... même si nous possédons beaucoup de connaissances dans un domaine, les experts n’étant pas épargnés !).

Dans le cadre de cette ressource, il a été choisi de faire un focus particulier sur le biais de représentativité et le biais de confirmation.

Les hallucinations

La plupart des IAG sont entraînées sur un ensemble de données correspondant à une période particulière, sans connaissance donc des faits qui se situent avant ou après (Genève, 2024).

Une IAG de texte ne donne pas de réponse, mais génère des éléments de texte basés sur des probabilités. Elle ne comprend ni le sens de la question posée ni la « réponse » qu’elle vous fournit. C’est pourquoi, il peut arriver qu’une IAG de texte n’ayant pas suffisamment d’informations dans sa base de données puisse inventer des éléments de réponse. (Bordeaux, 2024b).

C’est ce qu’on appelle une hallucination.

Certains outils d'IA sont plus susceptibles d'halluciner que d'autres. Les modèles liés à internet ou des bases de données académiques sont peut-être moins susceptibles de provoquer des hallucinations (Université de l’Alberta, 2024). Mais ils ne sont pas parfaits et il est important de toujours évaluer les résultats.