Interview de Paolo Benanti :« La différence entre nous et l'IA est que nous sommes des êtres vivants »

Le plus grand cerveau du Vatican sur la technologie, Paolo Benanti, prêtre franciscain de 50 ans, a répondu présent à l'invitation de Jérôme Chartier, organisateur des Entretiens de Royaumont qui se sont déroulés du 5 au 7 décembre. Le thème, « Vivre avec l'intelligence artificielle », ne pouvait mieux tomber pour cet ingénieur de formation. Il est aujourd'hui l'un des consultants les plus écoutés en matière de technologie par le pape François. Il est aussi membre de l'organe consultatif des Nations Unies sur l'IA et dirige une commission du gouvernement italien chargée de formuler des recommandations pour lutter contre les « fake news ». Nous l'avons interviewé pour faire le point sur l'avancée de l'IA et les enjeux de régulation, inhérents à sa diffusion.

La Lettre de L'Expansion : Doit-on s'inquiéter de l'impact de l'IA générative et de ses robots conversationnels sur nos vies ?  

P. B. : Ce type d'IA ne doit pas nous préoccuper outre mesure. En revanche, l'IA dite « générale », qui changera notre façon de vivre, va nous obliger à nous adapter. Je n'ai pas de souci quand une machine intelligente élimine des grains de café moisis. J'en ai si ses algorithmes sont conçus pour éliminer les êtres humains. Pour éviter ce scénario, nous devons absolument adopter des garde-fous.

La Lettre de L'Expansion : L'Union européenne a adopté l'IA Act. D'autres régulations suivront-elles ?

P. B. : Nos vieux pays ont connu la tragédie de l'extermination au siècle dernier. L'IA Act tient compte de ce traumatisme en faisant de la protection des humains face à la machine une nécessité. Ailleurs dans le monde, le sujet de la régulation est conditionné par les tensions géopolitiques qui opposent, en particulier, les États-Unis à la Chine.

La Lettre de L'Expansion : Que s'est-il passé depuis le lancement de l'appel de Rome pour une éthique de l'IA en février 2020 ? 

P. B. : Cet appel, initié par l'Académie pontificale pour la vie, a, en quelque sorte, valeur de magna carta sur la technologie. Il a rallié, depuis, les trois religions du livre en janvier 2023 et a été rejoint, depuis juillet 2024, par 24 autres leaders religieux. Les hommes de foi doivent prendre toute leur part au dialogue qui vise à maintenir l'homme au centre du jeu.

La Lettre de L'Expansion : Comment se protéger face à la vitesse de diffusion de cette technologie ? 

P. B. : Réguler prend du temps, quand l'IA et ses applications galopent. Mais, malgré la lenteur inhérente aux régulations, il faut persister. Ce n'est pas du temps perdu, comme nous l'avons vu au regard du RGPD (Règlement général de protection des données).

La Lettre de L'Expansion : Ne doit-on pas apprendre à vivre avec ? 

P. B. : L'IA est au cœur des interfaces entre nous et nos logiciels. Gardons un esprit critique face à la machine. N'oublions jamais que la différence entre nous et l'IA est que nous sommes des êtres vivants. Plus la machine sera puissante, et bientôt dotée d'émotions grâce à des algorithmes, plus la question sur ce qui fait notre identité va se poser.

La Lettre de L'Expansion : L'élection de Donald Trump, qui soutient l'innovation tous azimuts de la Silicon Valley, constitue-t-elle un danger pour la planète ? 

P. B. : En 2011, les réseaux sociaux avaient permis qu'éclatent les Printemps arabes. En 2021, les émeutiers de Capitol Hill ont mis fin au rêve de l'innocence. La question fondamentale qui se pose à nous aujourd'hui est la défense de nos démocraties à l'ère computationnelle. l