Salut,

Dans un monde de plus en plus façonné par l'intelligence artificielle, la responsabilité n'est pas une option, c'est une nécessité urgente. Ce livret est conçu pour accompagner la session plénière intitulée « L'avenir de MLY – Partie II : l'intelligence au-delà des questions » et se concentre sur les principes fondamentaux de l'IA responsable (RAI).

Ces principes servent de garde-fous éthiques et opérationnels pour garantir que l'IA reste une force au service du bien et non du mal. Que l'IA aide un enseignant à comprendre le Feedback des élèves ou qu'elle aide un responsable des ressources humaines à faire émerger des idées, son utilisation doit toujours être fondée sur la confiance, la sécurité, l'équité et la transparence.

Une aide à la décision fiable : une base qui combine plusieurs principes

Ce que cela signifie

Lorsque l'IA est utilisée non pas pour automatiser des actions mais pour influencer ou guider les décisions humaines, la fiabilité, l'explicabilité et la fidélité contextuelle de ses intuitions deviennent primordiales.

Ce qu'il englobe

S'assurer que les idées générées par l'IA sont fondées sur des preuves et vérifiables.
Fournir des métadonnées contextuelles (scores de confiance, provenance, justification)
Aligner les résultats de l'IA sur les connaissances spécifiques au domaine
Distinguer les recommandations à haut niveau de confiance de celles à faible niveau de confiance.

Principales garanties

Test de fiabilité pour les modèles de génération d'idées
Examen humain en boucle pour les décisions à fort enjeu
Étiquetage transparent de la certitude du système
Alerte des utilisateurs lorsque les connaissances sont basées sur des données limitées

Cas d'utilisation réel : IBM Watson pour l'oncologie

IBM s'est associé à des hôpitaux pour proposer Watson comme outil d'aide à la décision dans le traitement du cancer. Mais souvent, il recommandait des traitements pas sûrs ou pas efficaces, car il avait été formé sur des données synthétiques ou limitées, sans base clinique solide.

Conséquences : les hôpitaux ont arrêté d'utiliser le système et IBM s'est retiré du secteur des soins de santé basés sur l'IA. La confiance du public a été ébranlée.

Prévention : renforcer la validation des données, la transparence des modèles et les niveaux de contrôle clinique.

Les 7 principes d'une IA responsable

Équité et inclusion

Les modèles d'IA doivent refléter la diversité des gens qu'ils servent.

Transparence et interprétabilité

Les utilisateurs doivent pouvoir comprendre comment une idée a été trouvée.

Responsabilité et gouvernance

Les organisations doivent clairement définir qui est responsable des stratégies d'IA et de la gouvernance proactive.

Précision et intégrité des décisions

Les informations doivent être spécifiques au domaine, validées et testées en permanence pour garantir leur qualité.

Confidentialité et consentement

Les utilisateurs devraient garder la pleine propriété de leurs données, sauf s'ils donnent explicitement leur accord pour qu'il en soit autrement.

But et intention humaine

L'IA devrait être utilisée pour donner plus de pouvoir, pas pour nuire, avec des outils conçus pour avoir un impact positif.

Fiabilité et sécurité

L'IA doit être fiable et donner des résultats top, même dans les cas les plus compliqués.

Conclusion

L'intelligence artificielle, c'est la technologie la plus puissante de notre époque, pas à cause de ce qu'elle peut faire, mais à cause de ce qu'on décide d'en faire.

Les histoires dans ce livret nous montrent une vérité simple : l'IA ne se trompe pas parce qu'elle est intelligente. Elle se trompe parce qu'elle est négligente, incontrôlée ou non vérifiée.

En tant que créateurs, utilisateurs et gardiens de l'IA, on doit résister à la tentation de lui faire aveuglément confiance et, à la place, construire des systèmes qui méritent notre confiance, grâce à la transparence, à la responsabilité et à des valeurs centrées sur l'humain.