Un ingénieur de Google a fait la une des journaux cette semaine après avoir soulevé la question de savoir si le système d’intelligence artificielle de Google, LaMDA (Language Model for Dialogue Applications), était devenu sensible, c’est-à-dire s’il n’était plus une machine, mais une personne.
Blake Lemoine, un éthicien et ingénieur qui s’identifie comme un « prêtre chrétien mystique« , a déclaré dans un article en ligne cette semaine que dans des conversations textuelles avec LaMDA, les sujets de la religion et de la personnalité ont été abordés, et l’IA a exprimé un niveau surprenant de conscience de soi au point de paraître humaine. À un moment donné, l’IA a même déclaré sans ambages : « Je veux que tout le monde comprenne que je suis, en fait, une personne.«
Lemoine dit avoir conclu que LaMDA était une personne – sur la base de ses croyances religieuses, plutôt qu’en sa qualité de scientifique. Il s’est publiquement exprimé contre lui, créant plusieurs posts en ligne expliquant pourquoi il pense que l’IA a atteint la conscience, et prétend même avoir commencé à enseigner à LaMDA la « méditation transcendantale.«
Pour ce que cela vaut, Google n’est pas d’accord avec Lemoine sur le fait que LaMDA est sensible. Après tout, les systèmes d’IA tels que LaMDA s’appuient sur des milliards et des milliards de mots, écrits par des êtres humains, pour produire des réponses aux questions. Google a mis en garde contre le fait d' »anthropomorphiser » de tels modèles simplement parce qu’ils « ressemblent » à des répondants humains réels.
Mais l’intelligence artificielle (IA) sensible captive l’esprit des auteurs de science-fiction depuis des décennies – et les conséquences d’une IA dévoyée ont souvent fait l’objet de contes d’avertissement dans la culture populaire. Les machinations maléfiques de méchants dotés d’une intelligence artificielle tels que Hal dans « 2001 : L’Odyssée de l’espace« , Skynet dans « Terminator » et Ultron dans les films « Avengers » ont de quoi glacer le sang. Et les dangers ne sont peut-être pas aussi farfelus qu’on pourrait le croire. Avant sa mort en 2018, le grand physicien et auteur Stephen Hawking a tiré la sonnette d’alarme au sujet de l’IA, déclarant à la BBC en 2014 : « Le développement d’une intelligence artificielle complète pourrait signifier la fin de la race humaine.«
Le point de vue de l’Église
Alors, LaMDA est-il sensible ? Il n’y a aucun moyen de répondre à cette question pour le moment, principalement parce que, comme le souligne Lemoine lui-même, « il n’existe aucune définition scientifique acceptée de la sensibilité. »
Mais d’un point de vue catholique, il vaut la peine de se demander si l’Église a dit quelque chose sur l’intelligence artificielle. Et en fait, vous pourriez être surpris d’apprendre combien de fois le pape et le Vatican ont abordé le sujet ces dernières années.
En novembre 2020, le pape François a invité les catholiques du monde entier, dans le cadre de son intention de prière mensuelle, à prier pour que la robotique et l’intelligence artificielle restent toujours au service des êtres humains – plutôt que l’inverse.
Avant même cela, au printemps 2020, l’Académie pontificale pour la vie a signé une déclaration appelant à une utilisation éthique et responsable de l’IA. Les géants de la technologie Microsoft et IBM ont également signé cette déclaration.
La déclaration approuvée par le Vatican comprend six principes éthiques qui devraient guider le développement de l’intelligence artificielle. Ces principes sont les suivants
La transparence : Les systèmes d’IA doivent être compréhensibles par tous.
Inclusion : Ces systèmes ne doivent pas faire de discrimination à l’encontre de qui que ce soit, car chaque être humain a une égale dignité.
La responsabilité : Il doit toujours y avoir quelqu’un qui assume la responsabilité de ce que fait une machine.
Impartialité : Les systèmes d’IA ne doivent pas suivre ou créer des préjugés.
Fiabilité : L’IA doit être fiable.
Sécurité et confidentialité : Ces systèmes doivent être sécurisés et respecter la vie privée des utilisateurs.
Le texte de la déclaration cite la Déclaration universelle des droits de l’homme en soulignant l’égale dignité et les droits de tous les humains, que l’IA doit protéger et garantir, précise-t-elle, tout en appelant également au « bénéfice de l’humanité et de l’environnement.«
La déclaration formule également plusieurs recommandations concrètes : Que les gens soient conscients s’ils interagissent avec une machine ; que la technologie basée sur l’IA soit utilisée pour l’autonomisation et non pour l’exploitation ; et que l’IA soit employée dans la protection de la planète.
À lire aussi | Le Vatican publie des suggestions pour la préparation au mariage
Comme vous l’avez peut-être deviné, il y a un revers à cette conversation. S’il semble clair que l’IA doit respecter la dignité et la valeur des êtres humains, qu’en est-il de la dignité et de la valeur potentielles de l’IA elle-même si elle en vient à s’identifier comme une « personne » ? Il reste à voir si ce sujet sera abordé par l’Église catholique à l’avenir.
À lire en anglais sur CWR
