Le Secrétariat pour l’économie et l’ULSA organisent un événement «apprécié et encouragé» par le Pape. Le secrétaire du dicastère pour la Culture et l’Éducation met en garde contre le «paradigme technocratique» qui considère ces outils comme «neutres» et rappelle le rôle du Saint-Siège dans la promotion d’une gouvernance mondiale.
- Volatilité, incertitude, complexité, ambiguïté
- Les risques sociaux des nouvelles technologies
- La connaissance, un don et non une donnée
- Les défis éthiques de l’IA
- Les différents objectifs de la technologie
- Supprimer les «frictions», céder du pouvoir
- Qu’est-ce qu’un algorithme?
- L’importance de la formation de l’IA
«La perfection des moyens et la confusion des fins». Cette formule attribuée à Albert Einstein est le reflet d’un monde interpellé par les nouvelles technologies et façonné par celles-ci. Les intérêts en jeu sont multiples, ils ne sont pas «neutres», et c’est dans ce contexte que le Saint-Siège, dépourvu d’objectifs militaires ou commerciaux, peut jouer un rôle clé dans la promotion d’une gouvernance mondiale qui développe des systèmes «éthiques dès leur conception». Telles sont quelques-unes des idées qui ont émergé du séminaire Potentiel et défis de l’intelligence artificielle organisé par le Secrétariat pour l’économie et le Bureau du travail du Siège apostolique (ULSA), qui s’est tenu lundi 2 mars, à Rome. Les travaux ont été ouverts par le professeur Pasquale Passalacqua, directeur de l’ULSA, qui a souligné que le Pape Léon XIV lui-même, informé directement de l’initiative par le président Mgr Marco Sprizzi, l’avait «appréciée et encouragée», souhaitant une «prise de conscience plus profonde dans ce domaine si actuel et complexe». Les interventions ont été modérées par Alessandro Gisotti, vice-directeur éditorial du dicastère pour la communication. Les intervenants étaient Mgr Paul Tighe, secrétaire du dicastère pour la Culture et l’Éducation; le père Paolo Benanti, professeur à l’Université pontificale grégorienne et à l’Université LUISS Guido Carli; et le professeur Corrado Giustozzi, professeur au master en ingénierie des systèmes intelligents de l’Université Campus Bio-Medico.
Volatilité, incertitude, complexité, ambiguïté
Pour résumer les conséquences de la diffusion, en 2022, de ChatGPT, l’un des chatbots les plus populaires développé par la société américaine OpenAI, Mgr Tighe a utilisé l’acronyme VUCA: Volatility (Volatilité), Uncertainty (Incertitude), Complexity (Complexité) et Ambiguity (Ambiguïté). Les risques, «sans céder à une rhétorique apocalyptique», sont toutefois concrets: «Armes biologiques, propagande, désinformation, systèmes échappant au contrôle humain». Représentativité, transparence et compréhensibilité sont des mots clés pour contrer le «paradigme technocratique» déjà identifié par le Pape François, qui risque d’amplifier les injustices, les inégalités, la polarisation et les menaces environnementales au lieu de les résoudre. Le développement de l’IA ne se fait donc pas dans des espaces neutres, a réaffirmé l’évêque irlandais. En l’absence de réglementations internationales, «les grandes puissances visent la supériorité technologique, en particulier dans le domaine militaire», tandis que «la conscience d’une possible bulle financière incite à prendre des risques au détriment de la sécurité». À cet égard, Mgr Tighe a cité l’actualité récente et le cas d’Anthropic, une entreprise américaine créée dans le but de développer une IA plus éthique et soumise à des «pressions gouvernementales pour assouplir ses engagements éthiques en matière d’utilisation militaire et de surveillance».
Les risques sociaux des nouvelles technologies
De plus, les modèles d’intelligence artificielle sont conçus pour satisfaire l’utilisateur, souvent par les mêmes entreprises qui contrôlent les réseaux sociaux, au point de «flatter» l’utilisateur et de générer des «hallucinations», en fournissant des «réponses attendues plutôt que précises». Le risque de déléguer à l’IA des tâches cognitives proprement humaines a également été souligné, en particulier par ceux qui ne sont pas en mesure d’évaluer critiquement les résultats et de poser les questions appropriées. Cela n’affecte pas seulement les domaines professionnels et universitaires, mais aussi les domaines personnels, relationnels et spirituels, incarnant l’observation faite par le psychologue Abraham Maslow: «Si tout ce que vous avez est un marteau, tout ressemble à un clou».
Face à ces complexités, l’évêque a rappelé la note Antiqua et Nova, indiquant que «la sagesse du cœur», est ce dont l’humanité a le plus besoin aujourd’hui: une intelligence qui, face à la puissance des outils disponibles, s’interroge sur leur utilité, leurs fins et leurs conséquences. Dans ce contexte, on comprend «l’attention suscitée par l’engagement du Pape Léon XIV à placer la réflexion sur l’intelligence artificielle parmi les priorités de son pontificat». Pour sa part, l’Église possède une «autorité morale» et la capacité de réunir des interlocuteurs qualifiés, devenant ainsi un partenaire important pour orienter le développement de l’IA.
La connaissance, un don et non une donnée
Mgr Tighe a expliqué, point par point, comment ces principes peuvent se traduire en actions concrètes de la part de l’Église. Sur le front de la compétitivité, en promouvant la coopération et la gouvernance mondiale des nouvelles technologies. Dans le contexte de polarisation actuelle, en réaffirmant la culture de la rencontre et du dialogue. En ce qui concerne les inégalités, en rappelant qu’un «pacte social réaliste» doit également rassembler les différentes cultures et visions du monde. Enfin, en matière de «délégation cognitive», en réaffirmant la vision catholique de l’éducation et en renforçant le réseau des universités catholiques.
Les défis éthiques de l’IA
Le rapport du père Benanti s’est concentré sur les défis éthiques de l’intelligence artificielle, proposant une vision qui interroge la «politique» de ces modèles. «Tout artefact technologique, lorsqu’il a un impact sur un contexte social, fonctionne comme une disposition du pouvoir et une forme d’ordre», a déclaré le franciscain, soulignant l’urgence d’une question qui résonne à «plusieurs tables»: du Saint-Siège aux Nations unies – le père Benanti est membre du Comité des Nations unies sur l’IA – où les «dispositions du pouvoir» mentionnées sont de plus en plus influencées par les «accords commerciaux».
L’Église catholique enrichit ses orientations et précise sa pensée sur la révolution de l’IA. Dans un dense message pour la 60e journée mondiale des communications sociales, paru …
Les différents objectifs de la technologie
Cela se répercute également dans le domaine de l’information: la visibilité d’un article ne dépend pas nécessairement de sa qualité, mais désormais davantage de la position que l’algorithme lui accorde sur les pages web. Une «médiation du pouvoir», a soutenu le professeur. L’innovation peut être dictée par un «objectif spécifique», lorsqu’elle naît en réponse à un besoin, même si elle n’est «jamais neutre». Mais il existe également des familles de technologies qui «en elles-mêmes ne changent rien, mais modifient la façon de faire les choses». Ce sont les technologies dites «à usage général», comme l’électricité et l’IA elle-même. «C’est pourquoi c’est un sujet si important: parce que grâce à l’IA, nous avons changé la nature des objets qui créent la réalité». Une société dite «software defined», une société définie par les logiciels qu’elle utilise, qui touche la nature et les processus décisionnels de toute organisation, y compris le Saint-Siège.
Supprimer les «frictions», céder du pouvoir
L’avantage de l’utilisation de l’IA, a déclaré le père Benanti, réside dans la suppression des «frictions». Une métaphore qui trouve diverses applications concrètes. Par exemple, une application de rencontre supprime les frictions, la «fatigue» de chercher l’amour de sa vie. «Mais ce faisant, on cède une partie de son pouvoir» et les informations transmises deviennent ainsi un «instrument de contrôle». À cet égard, à la fin de son intervention, le vice-directeur éditorial du dicastère pour la Communication a rappelé le message du Pape Léon XIV pour la 60e Journée mondiale des communications sociales, et a appelé à une «alphabétisation aux médias, à l’information et à l’IA».
Qu’est-ce qu’un algorithme?
L’intervention du professeur Giustozzi s’est concentrée sur la nature de l’IA et ses limites techniques, en présentant l’un de ses composants essentiels: l’algorithme et les principales critiques des processus décisionnels basés sur des algorithmes. Parmi celles-ci, le problème du biais: les algorithmes peuvent mettre en œuvre mécaniquement «des stratégies de choix qui sont dans l’esprit de leur créateur», incorporant parfois des préjugés, de bonne foi ou délibérés, qui faussent les résultats ou les rendent inéquitables. En outre, un algorithme peut s’avérer inefficace si le problème est mal formulé; il peut produire des résultats faussés s’il repose sur des hypothèses imprécises ou des approximations excessivement simplificatrices.
L’importance de la formation de l’IA
Approfondissant davantage la question, le professeur Giustozzi a expliqué l’importance décisive de la formation, c’est-à-dire la phase d’entraînement, dans le développement de l’algorithme: si les données sont incomplètes ou faussées, les résultats seront inévitablement erronés ou discriminatoires. Une nature complexe et intricate, à tel point que pour la résumer, le professeur a réadapté un célèbre aphorisme de saint Augustin sur le temps: «Si personne ne me le demande, je le sais. Si je veux l’expliquer à qui me le demande, je ne le sais plus». Le professeur a enfin attiré l’attention sur les risques liés à l’utilisation de l’IA, soulignant qu’elle doit toujours être considérée comme un «soutien» à l’activité humaine et que ses résultats doivent faire l’objet d’une révision critique constante. En se référant au concept de formation et de collecte de données, Alessandro Gisotti a souligné que l’impact de l’IA affecte également l’environnement et notre maison commune: en Virginie, aux États-Unis, plus de 30 % de l’énergie est utilisée par les centres de données, qui stockent les informations sur lesquelles se basera ensuite la formation des nouvelles technologies. En Irlande, le chiffre reste tout aussi significatif: 20 % sont utilisés par Google. En résumé, une réalité très «énergivore». Dans la dernière partie du séminaire, les participants ont posé des questions approfondies aux intervenants.
