IA : le Vatican en pointe sur les réflexions éthiques

Premières réflexions

Publiée pour la Journée mondiale de la Paix, la première déclaration approfondie d’un pape sur les formes contemporaines de l’IA date du 1er janvier 2024. François y propose de sérieux critères de discernement sur cette technologie naissante. Si la science et la technologie « sont des produits extraordinaires » du « potentiel créatif » que Dieu a conféré à l’homme, affirme-t-il, ceux-ci « en permettant l’exercice d’un contrôle sans précédent sur la réalité, mettent entre les mains de l’homme un vaste éventail de possibilités, dont certaines peuvent constituer un risque pour la survie de l’humanité et un danger pour la maison commune. »

Réfléchir aux risques de l’IA

Parmi les écueils de l’IA, l’extraction « des données qui permettent de contrôler les habitudes mentales et relationnelles des personnes, souvent à leur insu, à des fins commerciales ou politiques, en limitant l’exercice conscient de leur liberté de choix », avertit par exemple le pape, qui appelle à la création d’organismes de contrôle. Le texte papal invite aussi à réfléchir sur « le sens de la limite » qui se trouve menacé par « le paradigme technocratique » : « Notre monde est trop vaste, trop diversifié et trop complexe pour être entièrement connu et classifié ». Refuser de le reconnaître serait risquer de « tomber dans la spirale d’une dictature technologique ». À l’inverse, « reconnaître et accepter ses limites de créature est pour l’homme une condition indispensable pour obtenir, ou mieux accueillir, la plénitude comme un don. »

Le terme « intelligence »

Par l’intermédiaire de ses dicastère pour la Doctrine de la Foi et pour la Culture et l’Éducation, le Vatican a aussi produit en janvier 2025 une importante « note sur les relations entre l’intelligence artificielle et l’intelligence humaine ».  Intitulée Antiqua et Nova, elle propose une longue réflexion sur la spécificité
de l’intelligence humaine. Celle-ci tend naturellement vers la vérité, elle est aussi fondamentalement liée au caractère incarné de la personne, et « ordonnée par [sa] nature même à la communion interpersonnelle ». C’est pourquoi « l’utilisation même du mot “intelligence” » en référence à l’IA « est trompeuse ».

Quels critères éthiques ?

Parmi les critères éthiques que propose Antiqua et Nova pour encadrer l’utilisation de l’IA, « l’Église est particulièrement opposée aux applications qui menacent le caractère sacré de la vie ou la dignité de la personne ». Elle alerte aussi sur la « vision globale et la compréhension de la personne intégrée dans de
tels systèmes », car « les produits technologiques reflètent la vision du monde de leurs concepteurs, propriétaires, utilisateurs et régulateurs et, grâce à leur pouvoir, ils façonnent le monde ».

« Au  niveau sociétal, décrit aussi la note, certains développements technologiques peuvent également renforcer les relations et les dynamiques de pouvoir qui ne sont pas conformes à une vision correcte de l’individu et de la société. » La note propose aussi des critères quant aux soins de santé, où l’IA, si elle « semble présenter un potentiel énorme », ne doit pas « remplacer entièrement la relation entre les patients et les soignants ». Mais aussi quant à l’économie, l’information, à l’éducation, à la vie privée, à la guerre… Un document à lire absolument si l’on cherche à faire un bon usage de l’IA.

Sophie le Pivain