Temps de lecture : 5 minutes

Habitué au cliché de vivre dans le passé, le Vatican s’est progressivement tourné vers des questions plus actuelles ces dernières années. Au point d’entamer un dialogue sur l’intelligence artificielle en début d’année. Mais d’où vient cet intérêt pour le secteur numérique? Explications.

28 février, dans le centre de Rome. Un cortège de véhicules aux vitres teintées se range sous le léger soleil du début d’année. Au coeur même du Vatican, se dresse le palais Nervi qui abrite l’amphithéâtre de l’aula synodale. C’est là que se réunissent les évêques du monde entier lorsqu’ils sont convoqués par le Pape. Mais cette fois, ce sont les dirigeants de quelques-unes des plus grandes entreprises du numérique qui s’y pressent. Ils viennent assister à « l’appel de Rome pour une intelligence artificielle éthique. Un colloque intitulé « Le ‘bon’ algorithme? » et co-signé par IBM et Microsoft. Une initiative surprenante au premier abord, plus essentielle quand on s’y penche.

Réglementer une technologie à la folle chevauchée

Ce type colloque n’est pas une nouveauté du genre puisque les biotechnologies et la robotique en étaient respectivement les sujets de 2017 et 2019. Autant de sujets étudiés par l’Académie pontificale pour la vie, créée en 1994 par Jean-Paul II pour étudier les questions éthiques relatives à la promotion et à la défense de la vie. L’idée n’est pas d’abandonner les territoires traditionnels pontificaux mais d’y ajouter différentes questions qui interrogent en profondeur l’être humain d’aujourd’hui. Le Vatican a ainsi décidé de se tourner également vers la nouveauté, la modernité et le présent.

Les responsables de l’Église catholique romaine appellent cette fois à la mise en place de normes éthiques plus strictes en matière de développement d’intelligence artificielle et ont été rejoints dans leur initiative par l’ONU. Ces trois journées de réflexion visent à faire passer le secteur numérique de « l’algocratie » à « l’algoréthique » et ont attiré l’attention d’imminents scientifiques : 356 chercheurs de 26 pays s’y sont inscrits, dont le prix Nobel japonais de médecine de 2012 Shinya Yamanaka, ainsi que plus de 150 académiciens pontificaux.

De cette « réunion » sont ressortis six grands principes essentiels au bon développement de l’intelligence artificielle : transparence, inclusion, responsabilité, impartialité, fiabilité, et sécurité et respect de la vie privée. Ils dépeignent les valeurs essentielles nécessaires pour que l’IA représente un « vrai progrès […] au service du bien commun […] sans aucune discrimination […] et soutenable d’un point de vue écologique. » Ces critères stipulent ainsi que la technologie doit être mise sur pied dans le but de protéger les personnes, en particulier les faibles et défavorisés. Le Vatican veut également s’assurer que les entreprises n’utilisent pas l’intelligence artificielle comme un moyen de collecter des données sans le consentement des individus puis de les utiliser à des fins commerciales ou politiques.

Humaniser la technologie et non technologiser l’humanité

Ces dernières années, les algorithmes se sont propagés dans toutes les strates de la société, du simple loisir à l’assistance au domaine médical, et ils se doivent d’être réglementés. Parmi les points avancés par le conseil pontifical, figure la notion de responsabilité : « Lorsque la machine se substitue à l’homme pour prendre des décisions, quel genre de certitudes avons-nous pour laisser la machine choisir qui doit être traité et comment? Sur quelle base devrions-nous lui permettre de désigner celui qui est digne de confiance et celui qui ne l’est pas? L’homme découvre, avec sa liberté, un sens de la responsabilité que l’on appelle éthique. Si la machine choisit des valeurs, ce sont ne sont que les valeurs numériques des données »

Le Pape François a également tenu à souligner le danger élitiste que pourrait représenter un développement non encadré d’une telle technologie : « Sur le plan personnel de l’ère numérique, les utilisateurs sont souvent réduits à des « consommateurs » en proie à des intérêts privés concentrés dans les mains de quelques-uns. L’asymétrie par laquelle un petit nombre d’élus savent tout de nous alors que nous ne savons rien d’eux ternit la pensée critique et l’exercice conscient de la liberté. Les inégalités se creusent énormément avec le savoir et la richesse qui s’accumulent entre quelques mains avec de graves risques pour les sociétés démocratiques. »

Une situation extrême qui n’est pas sans rappeler des cas pourtant déjà bien réels. La société Clearview AI est, par exemple, actuellement utilisée par de nombreuses agences gouvernementales pour extirper des données de reconnaissance faciale à l’insu de tiers. Sa base de données détient plus de 3 milliards d’images extraites de divers sites en ligne et est utilisée par les forces de l’ordre pour mettre la main sur des individus dignes d’intérêt. C’est pour éviter ce genre d’abus que ce colloque s’est tenu au palais Nervi, afin de figer dans le marbre des règles éthiques à ne pas dépasser.

Un oubli généralisé qu’il est temps de rattraper

En fait, le vrai étonnement autour de ce colloque devrait plutôt se poser sur le côté précurseur du Vatican et non sur le fait qu’il s’y intéresse. Les questionnements éthiques concernant la technologie ne font encore que balbutier et c’est la première instance à s’y consacrer pleinement. Un rapport de la Cnil et la notion de « garantie humaine » existent bel et bien déjà dans le milieu mais ils ne sont qu’une maigre part du développement à vitesse grand V de l’IA.

Les livres et colloques vantant les bienfaits de cette technologie « intelligente » n’effleure, par exemple, même pas la question éthique, qui ne semble dès lors qu’accessoire pour ceux qui poussent au développement. En mars 2018, un rapport français spécifiquement lié à l’intelligence artificielle ne faisait que citer la notion, malgré son titre de « Donner un sens à l’intelligence artificielle ». Idem pour le rapport de la Commission européenne qui n’apporte ni nouveauté ni réelle garantie. En France, le Comité consultatif national d’éthique vient à peine d’être mis sur pied, des années après le lancement des premières expérimentations. Il est plus que temps de se pencher sur la question car si la réflexion sur l’éthique ne fait que commencer, les leaders du secteur n’ont pas attendu et n’attendront pas.

Outre la volonté papale de réunir davantage encore de signataires dans les mois à venir, le Vatican espère collaborer avec des universités du monde entier pour promouvoir les recherches scientifiques liées à l’éthique dans l’intelligence artificielle. Si l’intérêt de l’Académie pontificale pour le numérique et l’intelligence artificielle peut paraître a priori étonnante, elle est en fait essentielle. Parce que personne d’autre ne semble s’en soucier.

ALVARRO

2 Replies to “Pourquoi le Vatican s’intéresse à l’intelligence artificielle”

  1. Bon article. En finance, certains produits de placement complexes sont également soumis à des algorithmes, des statistiques ou des seuils critiques qui entraînent par exemple un ordre d’achat ou de vente automatique si telle ou telle situation est rencontrée. Ces robots battent ainsi à tous les coups les meilleurs investisseurs du monde au niveau du timing mais sont une catastrophe en cas de correction soudaine (cygne noir) comme rencontrée actuellement. En effet, comme ils n’ont ni logique, ni sensibilité, ils prennent des décisions contraire au bon sens et peuvent entraîner des catastrophes financières en chaîne. Les marchés sont ainsi malmenés (ou glorifiés) artificiellement ce qui entraîne une mauvaise perception de l’état réel de l’économie et de la valorisation des valeurs financières. Certains prédisent même une crise profonde qui serait crée par des robots alors que les fondamentaux économiques seraient tout à fait valables. Et par effet de contagion, ces mêmes fondamentaux seraient alors impactés négativement par des marchés finalement non représentatifs de la valeur réelle.

  2. Article très intéressant. Il est effectivement temps de se pencher sur la question vu l intrusion déjà importante dans nos vies dans toutes sortes de domaine. Plusieurs dérives existent déjà.

Laisser un commentaire