in , , , ,

Un ex-scientifique de Google met en garde contre les dangers de l’intelligence artificielle

IMPRIMER CET ARTICLE / Faire un don à Lecatho.fr

Un éminent chercheur en intelligence artificielle, que certains appellent le « parrain » de l’IA, affirme que la technologie se développe à un rythme « effrayant » et prévient qu’elle ne devrait pas se développer au-delà de notre capacité à la contrôler.

Il se joint à la voix de nombreux dirigeants, dont le pape François, qui veulent s’assurer que les préoccupations éthiques sont « intégrées » dans les fondements de la technologie.

Geoffrey Hinton, chercheur de longue date chez Google, qui vient de prendre sa retraite à l’âge de 75 ans, a ajouté sa voix à celles de ceux qui affirment que les dangers potentiels de la nouvelle technologie méritent d’être examinés de près.

Un logiciel tel que le système de chatbot GPT-4, développé par la start-up OpenAI de San Francisco, « éclipse une personne en termes de connaissances générales et de loin« , a déclaré Geoffrey Hinton à BBC News.

« En termes de raisonnement, il n’est pas aussi bon, mais il est déjà capable d’effectuer des raisonnements simples. Et compte tenu du rythme des progrès, nous nous attendons à ce que les choses s’améliorent rapidement. Nous devons donc nous en préoccuper« , a-t-il ajouté.

GPT-4 est un modèle d’apprentissage formé à partir d’énormes quantités de données et de textes historiques et contemporains écrits par des auteurs humains. Il peut produire des textes par lui-même et générer des articles de blog, des poèmes et des programmes informatiques. Il peut s’engager dans des conversations semblables à celles des humains et fournir des réponses à des questions, a rapporté le New York Times.

Toutefois, ces systèmes n’en sont qu’à leurs débuts et présentent de nombreuses lacunes : Bien qu’il parle avec assurance, le GPT-4 présente des informations incorrectes comme étant factuelles et invente des informations dans des incidents que les chercheurs appellent « hallucinations« .

Des systèmes similaires peuvent générer des sons convaincants et des images et vidéos photoréalistes, parfois inspirées de personnes réelles.

À l’heure actuelle, ces premières versions de l’intelligence artificielle n’ont pas de conscience de soi. La question de savoir si la conscience de soi est même possible pour une création numérique fait l’objet d’un débat.

M. Hinton, qui vit aujourd’hui au Canada, a été un pionnier dans la création et la conception de « réseaux neuronaux« , le type d’infrastructure de programmation qui aide les ordinateurs à acquérir de nouvelles compétences et de nouvelles formes d’analyse. Ces réseaux sont utilisés dans de nombreux systèmes d’intelligence artificielle. En 2018, il a remporté, avec deux collaborateurs, la plus haute distinction informatique, le prix Turing.

Selon l’analyse de M. Hinton, ces systèmes d’IA en cours de développement sont très différents des logiciels que les gens ont l’habitude d’utiliser.

« J’en suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous avons« , a-t-il déclaré. Contrairement aux intelligences biologiques comme celle des êtres humains, il peut y avoir plusieurs copies des mêmes systèmes numériques avec les mêmes modèles du monde. Bien qu’ils puissent apprendre séparément, ils partagent leurs connaissances « instantanément« .

« C’est comme si vous aviez 10 000 personnes et qu’à chaque fois qu’une personne apprend quelque chose, tout le monde le sait automatiquement. C’est ainsi que ces chatbots peuvent en savoir beaucoup plus que n’importe quelle personne« , a déclaré M. Hinton.

Pour M. Hinton, un scénario « catastrophe » ou « cauchemar » serait qu’un robot soit développé et doté de la capacité de créer ses propres sous-objectifs, puis qu’il décide que son objectif doit être de maximiser sa propre puissance.

Quels sont les risques de l’intelligence artificielle ?

D’autres chercheurs ont exprimé leur inquiétude quant aux risques que présentent ces systèmes d’intelligence artificielle à court, moyen et long terme. Les premiers dangers sont que les gens fassent confiance à tort à une désinformation plus efficace et plus convaincante, y compris à de fausses informations présentées de manière convaincante par une IA. Les canulars et les criminels pourraient créer de faux appels téléphoniques imitant la voix d’un parent qui prétend être en danger et avoir besoin d’argent rapidement.

Le pape François a récemment fait l’objet d’une fausse photo générée par ordinateur très répandue. Une image du pape portant un élégant manteau blanc est devenue virale sur les sites de médias sociaux, de nombreuses personnes semblant confondre la fausse photo avec un cliché authentique.

Si l’IA parvient à automatiser davantage de tâches actuellement effectuées par des personnes, le chômage pourrait devenir un problème, craignent certains. Selon le New York Times, les modérateurs de contenu Internet, les assistants juridiques, les assistants personnels et les traducteurs pourraient voir leurs emplois menacés ou remplacés.

Les risques à long terme, tels que les systèmes d’IA échappant au contrôle de l’homme, voire détruisant l’humanité, sont depuis longtemps un élément de base de la science-fiction. Certains experts évoquent le comportement inattendu des systèmes d’IA en cours de développement. Si les systèmes d’IA sont reliés à d’autres services internet et deviennent si puissants qu’ils peuvent écrire leur propre code pour s’auto-modifier, l’IA hors de contrôle pourrait devenir un réel danger.

Le pape François et d’autres catholiques s’expriment

Le pape François a déclaré que la science et la technologie présentent des avantages pratiques et témoignent de la capacité de l’homme à « participer de manière responsable à l’action créatrice de Dieu« .

« De ce point de vue, a déclaré le pape lors de l’audience du Vatican du 27 mars, je suis convaincu que le développement de l’intelligence artificielle et de l’apprentissage automatique peut contribuer de manière positive à l’avenir de l’humanité ; nous ne pouvons pas l’ignorer.

En même temps, je suis certain que ce potentiel ne se réalisera que s’il y a un engagement constant et cohérent de la part de ceux qui développent ces technologies pour agir de manière éthique et responsable« , a-t-il ajouté.

À lire aussi | Cinquième dimanche de Pâques – homélie du Père Warren

Ces remarques ont été faites lors d’une audience au Vatican avec les participants aux Dialogues Minerva, un rassemblement de scientifiques, d’ingénieurs, de chefs d’entreprise, de juristes, de philosophes, de théologiens catholiques, d’éthiciens et de membres de la Curie romaine, axé sur les technologies numériques.

Le pape a encouragé ces dirigeants à faire de « la dignité intrinsèque de chaque homme et de chaque femme le critère clé » dans l’évaluation des technologies émergentes.

Source : Cet article a été publié originellement par Catholic News Agency (Lien de l’article).

Publié par Napo

💻Administrateur ▪️
✝ Catholique Royaliste et Social ▪️
✝ Diocèse de Léon 〓〓 ▪️
✝ Adepte de la pensée Déhonienne ▪️
🔗 Liens : https://linkr.bio/lecatho

Qu'est-ce que tu penses de l'article ?

Laisser un commentaire