Pour la première fois, le Pape s’est adressé aux dirigeants des sept nations les plus industrialisées du monde pour partager ses pensées sur l’impact de l’intelligence artificielle sur le futur de l’humanité.
Ce discours a eu lieu à Borgo Egnazia, dans la région des Pouilles en Italie du Sud, le vendredi 14 juin. Le Souverain Pontife a averti contre une dépendance excessive de l’humanité envers les décisions prises par les machines, soulignant l’importance de conserver un contrôle humain significatif sur l’IA. « C’est la dignité humaine qui est en jeu », a-t-il déclaré.
Depuis plusieurs années, le Vatican s’est penché sur les implications éthiques de l’intelligence artificielle, soulignant l’importance d’une « algoréthique », ou éthique des algorithmes, pour encadrer cette technologie. Ce vendredi, pour la première fois, le Pape a pris la parole devant les chefs d’État et de gouvernement du G7, mettant en lumière à la fois l’enthousiasme et la peur suscités par l’IA. Il a souligné que bien que l’IA révèle le potentiel créatif humain, elle porte aussi des dangers considérables.
François a décrit l’IA comme le signe d’une « révolution cognitivo-industrielle » en cours, capable de transformer la société de manière complexe. Il a mentionné les avantages de l’IA, tels que l’accès démocratisé au savoir et l’avancée de la recherche scientifique, mais a aussi averti contre les risques d’inégalités accrues entre nations riches et pauvres, et entre classes sociales. Selon lui, l’IA pourrait renforcer une « culture du rejet » au lieu de promouvoir une « culture de la rencontre ».
Comme tout outil façonné par l’homme, l’intelligence artificielle peut être mise au service du bien ou du mal. Le Pape a souligné que les technologies devraient servir l’humanité et mettre en lumière la dignité humaine. Il a averti contre l’autonomie des machines qui, à la différence des outils ordinaires, sont capables de prendre des décisions autonomes basées sur des critères prédéfinis ou des analyses statistiques.
Le Pape a souligné l’importance de la décision humaine, qui ne doit jamais être remplacée par des choix automatiques faits par des machines. « Nous condamnerions l’humanité à un avenir sans espoir si nous retirions aux gens la capacité de décider d’eux-mêmes et de leur vie, les condamnant à dépendre des choix des machines », a-t-il averti. Il a également mis en lumière l’urgence de repenser le développement et l’utilisation des armes autonomes létales, affirmant qu’aucune machine ne devrait décider de prendre une vie humaine.
À lire aussi | Les Bretons dans l’Histoire de la Gaule Mérovingienne
François a aussi évoqué le danger des décisions anthropologiques basées sur l’IA, citant l’exemple des magistrats utilisant des algorithmes pour prédire les récidives criminelles. Selon lui, cela peut conduire à des jugements biaisés et inhumains, car les êtres humains sont capables d’évolution et de surprise, contrairement aux machines.
Le Pape a souligné que l’intelligence artificielle n’est pas un être humain et ne peut donc établir de principes universels. Il a mis en évidence que les résultats générés par les algorithmes ne sont pas objectifs ni neutres et que l’IA a le potentiel d’amplifier les erreurs et les préjugés préexistants. En redistribuant des contenus sans vérification, l’IA risque de valider des informations erronées et de renforcer les cultures prédominantes.
François a appelé à une politique saine et tournée vers le bien commun, pour empêcher le paradigme technocratique de prendre le dessus sur le paradigme technologique. Il a regretté que le concept de dignité humaine se perde dans notre société actuelle et a insisté sur l’importance de remettre la dignité de la personne au centre des propositions éthiques.
En 2020, le Vatican a soutenu l’Appel de Rome pour une IA éthique, prônant une « algoréthique » pour encadrer le développement de l’intelligence artificielle. Le Pape a conclu en appelant chacun à un usage responsable de l’IA, et à une politique qui en favorise les conditions.
