Risques et éthique

L’intelligence artificielle est-elle infaillible ?

Tout comme l’être humain est faillible, l’intelligence artificielle peut également l’être. En effet, la qualité d’une IA dépendra notamment de la quantité et de la qualité des données (c’est-à-dire son carburant) qui lui seront fournies. Elle dépendra aussi de la qualité et de la robustesse de ses algorithmes, qui constituent ses lignes directrices et sont encodées par un expert humain.

Si la base de données dans laquelle elle se nourrit est partielle ou biaisée, les résultats qui seront fournis par l’IA ne pourront qu’être imprécis ou incorrects.

Par exemple, imaginons un processus de recrutement dans lequel une IA serait amenée à suggérer les meilleurs candidats. Pour qu’elle puisse rendre une décision et en apprendre plus sur le profil recherché, l’IA reçoit les données liées au recrutement des dix dernières années. La toute grande majorité des candidats recrutés étaient alors des hommes. En analysant cette information, si aucune précaution n’est prise, l’IA pourrait alors être biaisée et rendre des résultats qui auront tendance à mettre de côté les candidates, ce qui est une conséquence non désirée qui ne fait qu’augmenter une inégalité préexistante.

Cet exemple théorique n’en est pas un : c’est ce qui est réellement arrivé en 2018 à l’entreprise Amazon, qui a alors suspendu l’utilisation de son IA recruteuse.

En réalité, l’intelligence artificielle ne fait que reproduire les discriminations et les préjugés présents dans nos sociétés. C’est pourquoi son utilisation doit être encadrée par une série de principes éthiques, afin que ses bénéfices surpassent ses impacts négatifs potentiels.

Pour en savoir plus, rendez-vous sur la page « Risques et enjeux éthiques de l’IA ».

Cliquez sur le micro et énoncez votre question
Chatbot
Visitez notre FAQ pour découvrir la réponse à toutes vos questions.
La fonction vocale n'est pas disponible sur votre navigateur. Veuillez utiliser un navigateur plus récent.