Les enjeux éthiques liés à l'intelligence artificielle moderne

Les enjeux éthiques liés à l'intelligence artificielle moderne : ce qu'on ne vous dit pas assez

Un recruteur m'a montré son outil de tri de CV il y a quelques mois. Interface propre, gain de temps réel, promesse d'objectivité. Puis il a lancé une requête test avec un prénom à consonance maghrébine, et un second avec un prénom français. Même parcours, mêmes compétences. Le premier CV est passé en bas de pile. Il n'a pas ri. Il a fermé son écran et m'a demandé : « Et je le dis à qui, ça ? »

Voilà où se situent les enjeux éthiques liés à l'intelligence artificielle moderne. Pas dans les scénarios de robots tueurs qu'on agite dans les conférences. Dans des systèmes qui fonctionnent, qui tournent, qui prennent des décisions sur des gens, et dont personne n'a vraiment envie d'assumer la responsabilité. L'IA éthique n'est pas un supplément d'âme qu'on ajoute en fin de projet. C'est une question de conception, de gouvernance et, franchement, de courage managérial.

Biais algorithmiques : l'enjeu dont tout le monde parle et que peu de gens traitent

Le biais algorithmique est le sujet le plus documenté, et c'est aussi celui sur lequel je vois le plus d'inaction déguisée en vigilance. On en parle en réunion. On ajoute une ligne dans une charte. On passe à autre chose.

Pourquoi les biais persistent malgré la sensibilisation

Un modèle apprend ce qu'on lui donne. Si vos données de recrutement historiques contiennent dix ans de déséquilibres — et c'est le cas de la plupart des entreprises — votre modèle va reproduire ces déséquilibres avec une efficacité redoutable. Il ne fait pas de discrimination par méchanceté. Il fait de la statistique.

Sur un projet de scoring interne que j'ai suivi, la variable la plus prédictive du « risque d'absence prolongée » s'est révélée être... le code postal. Corrélé à tout un tas d'autres choses. Techniquement solide. Éthiquement inacceptable. Et personne dans l'équipe data n'avait pensé à regarder ça avant qu'on pose la question.

La leçon est simple et dérangeante : un modèle biaisé n'échoue pas. Il atteint ses objectifs. Il faut donc décider, humainement, quels objectifs ne méritent pas d'être atteints.

Que faire concrètement ?

• Tester avec des jeux de données fictifs mais contrôlés, en variant les attributs sensibles un par un.
• Nommer une personne responsable de l'audit — pas une équipe, une personne.
• Documenter les variables écartées et pourquoi.
• Prévoir une procédure de contestation pour les personnes concernées.

Le cadre juridique suffit-il à rendre une IA éthique ?

Non. Et c'est probablement la confusion la plus répandue en 2026.

L'Union européenne a construit un cadre sérieux avec l'AI Act, qui classe les systèmes par niveau de risque et impose des obligations proportionnées. Le RGPD encadre depuis longtemps les traitements de données personnelles. Le Conseil de l'Europe a adopté une convention-cadre sur l'intelligence artificielle, ouverte à la signature au-delà du continent. Tout cela existe, tout cela compte.

Mais un texte juridique fixe un plancher, pas un plafond. Il dit ce qui est interdit ou obligatoire. Il ne dit pas ce qui est souhaitable dans votre contexte précis, avec vos utilisateurs précis, vos vulnérabilités précises. Une entreprise peut être parfaitement conforme et prendre des décisions profondément discutables.

Conformité et éthique ne sont pas la même chose

J'ai vu des équipes juridiques valider des dispositifs que les équipes produit trouvaient gênants. Les deux avaient raison dans leur registre. Le droit dit « vous pouvez ». L'éthique demande « devriez-vous ? ». Ce ne sont pas les mêmes questions, et aucune ne remplace l'autre.

Aspect	Conformité réglementaire	Évaluation éthique
Nature	Obligatoire, contraignante	Volontaire, contextuelle
Qui décide	Le législateur, puis le juriste	L'organisation, avec les parties prenantes
Rythme	Évolue lentement, par textes	À réévaluer en continu
Angle	Ce qui est permis ou interdit	Ce qui est acceptable ou non
Sanction	Amende, interdiction	Réputation, confiance, conflit interne

La conformité vous protège des tribunaux. L'éthique vous protège d'autre chose : de devenir une organisation que vous n'assumeriez pas devant vos propres équipes.

Opacité des modèles : le nouvel angle mort

Il y a un glissement que je trouve plus préoccupant que les biais classiques. Avec les modèles génératifs modernes, on ne peut plus auditer un raisonnement. On peut inspecter une sortie, pas un chemin.

Sur un système de décision classique, on pouvait remonter : telle variable, tel poids, telle règle. Sur un grand modèle de langue, on observe une réponse. Quand elle est fausse, on ne sait pas vraiment pourquoi. Quand elle est juste, on ne le sait pas davantage.

Ça déplace tout le débat éthique. On ne parle plus de « corriger le modèle », mais de : comment construire une confiance raisonnable autour d'un système qu'on ne comprend pas entièrement ?

Une transparence réaliste, pas une transparence magique

Personne ne va vous livrer un modèle entièrement explicable de sitôt. En revanche, on peut exiger :

1. La traçabilité des données d'entraînement, au moins à gros grains.
2. Une documentation des limites connues du système.
3. Un journal des décisions prises et des cas signalés.
4. Une procédure humaine de recours, accessible et rapide.
5. Une information claire de l'utilisateur : il parle à une machine, il le sait.

Rien de tout ça n'est spectaculaire. C'est de l'hygiène. Et dans la plupart des déploiements que je croise, c'est précisément ce qui manque.

Qui est responsable quand l'IA se trompe ?

C'est la question qui fâche, et celle à laquelle tout le monde répond par une esquive.

Le fournisseur dit : « on a livré un outil, l'usage vous appartient ». L'équipe data dit : « on a entraîné selon le cahier des charges ». Le métier dit : « on a suivi les recommandations de l'outil ». Et à la fin, la personne dont le dossier a été refusé, le crédit bloqué, l'entretien non obtenu, n'a strictement personne en face.

Cette dilution de la responsabilité n'est pas un accident. Elle est structurelle. Chaque maillon est raisonnablement irresponsable. Le résultat global, lui, ne l'est pas.

Comment éviter la dilution

Trois leviers me paraissent tenables, et je défendrai le premier jusqu'au bout :

• Identifier un responsable nommé pour chaque système en production, avec un mandat écrit.
• Interdire les décisions automatisées sans possibilité de révision humaine pour tout ce qui touche à l'accès à un droit, un emploi, un crédit ou un soin.
• Rendre publique, en interne au minimum, la liste des systèmes déployés et de leurs usages.

Le troisième point paraît anodin. Il ne l'est pas. Beaucoup d'organisations ne savent pas elles-mêmes combien d'outils d'IA tournent dans leurs services. On ne peut pas gouverner ce qu'on n'a pas recensé.

IA éthique et responsable : où se situe la vraie frontière ?

« IA éthique et responsable » est devenu un label qu'on colle sur des plaquettes commerciales. Ça ne veut plus dire grand-chose. Je préfère un critère plus brutal.

Une IA est éthiquement tenable si les personnes affectées par ses décisions peuvent savoir qu'elles existent, comprendre sur quoi elles portent, et contester le résultat. Si l'une de ces trois conditions manque, le reste est de la communication.

Ce critère a un mérite : il ne dépend d'aucune technologie. Il tient pour un algorithme simple comme pour un modèle géant. Et il est vérifiable — pas par un audit de conformité, mais en demandant simplement à un utilisateur final : « savez-vous pourquoi vous avez reçu cette réponse ? »

Dans mon expérience, la réponse est presque toujours non. Voilà le chantier.

Ce qu'il reste à construire

Les principes éthiques de l'IA, on les connaît. Bienfaisance, non-malfaisance, équité, explicabilité, respect de l'autonomie. Ils traînent dans des rapports depuis des années. Le problème n'a jamais été de les énoncer.

Le problème, c'est qu'ils résistent mal au contact d'une deadline. Quand il faut livrer, quand le budget se réduit, quand un concurrent sort la fonctionnalité avant vous, la charte éthique devient un document que personne ne relit.

Alors je ne vais pas vous vendre une méthode miracle. Je vais juste poser une question, celle que mon recruteur s'est posée en fermant son écran : quand votre système se trompe sur quelqu'un, êtes-vous prêt à assumer que vous l'avez laissé faire ? Si la réponse n'est pas un oui franc, il reste du travail. Et ce travail ne se délègue pas à un outil.