Éric Salobir : « Les technologies peuvent nous rendre plus humains »



La Croix L’Hebdo : Vous souvenez-vous de votre première connexion à Internet ? De votre premier mail ?

Éric Salobir : Les mails, c’est la préhistoire ! Ce devait être à la fin des années 1990. Adolescent, j’avais un ordinateur et j’ai fait partie d’un club informatique. Puis j’ai été parmi les premiers à avoir un téléphone portable. Sans être béatement technophile – même s’il faut être honnête, ça me plaît ! –, je suis convaincu que la technologie apporte infiniment plus d’améliorations que de désagréments.

Les désagréments, s’ils existent, il faut les repérer et les minimiser, comme on l’a fait avec le code de la route et la prévention routière pour la voiture. Pour les nouvelles technologies, la question reste la même : comment se mettent en place une culture de ces technologies et une régulation ? Il faut du temps pour que les gens s’approprient une technologie au point d’inventer la vie qui va avec.

Dans les années 1990, les gens découvraient les portables et téléphonaient partout. Aujourd’hui, cela fait longtemps que je n’ai pas entendu quelqu’un téléphoner très fort dans un TGV. Avec l’intelligence artificielle qui vient nous bousculer, il faudra aussi créer cette culture d’une bonne utilisation.

Quelle est exactement votre mission ?

É. S. : À partir de 2012, j’ai été responsable des médias pour l’ordre dominicain, à Rome. J’ai été invité à des réflexions qui m’ont amené à constituer un réseau, d’abord informel, d’universitaires et de gens de la tech voulant réfléchir aux questions de technologie. Il y a trois ans, le maître de l’ordre m’a demandé de créer une fondation pour soutenir ce réseau afin d’aider l’Église à y voir clair et accompagner les acteurs privés ou publics dans leur dialogue.

Les gens de la tech, y compris des grandes entreprises, n’ont certes pas envie d’avoir trop de réglementations. Mais ils comprennent aussi que si les choses ne sont pas cadrées cela peut les emmener vers des rivages dangereux. On l’a vu avec les réseaux sociaux et la désactivation du compte de Trump. À quel moment le faire ? Faut-il attendre qu’il appelle au meurtre ? Il n’y a aucune loi là-dessus, aucun critère, aucune commission donnant des lignes directrices… Ils se retrouvent seuls et doivent se débrouiller, ce qui est particulièrement périlleux.

Est-ce facile d’entrer en dialogue avec cette génération qui croit pouvoir changer le monde avec une application bricolée dans un coin ?

É. S. : Les gens de la Silicon Valley voyagent beaucoup, ce sont des éponges constamment à la recherche de conversations qui vont leur apprendre des choses. Ils se posent et posent plein de questions. Les échanges à ce niveau sont très faciles. Mais ils ont aussi une sorte de formatage qui fait qu’ils maîtrisent bien certaines recettes du succès. C’est parfois difficile de les faire sortir de certains sillons qui fonctionnent.

La Silicon Valley s’est construite sur les ruines des communautés hippies des années 1960 à San Francisco : ce côté libertarien, ce désir de changer le monde, a toujours existé chez eux. Ce ne sont pas des scientifiques qui inventent pour faire avancer la connaissance. Pas plus pour gagner de l’argent car, le plus souvent, ils réinvestissent tout… J’en ai fait l’expérience en discutant avec plusieurs d’entre eux : ils se soucient de la société qu’ils vont léguer à leurs enfants, de la place qu’ils vont laisser dans l’histoire. S’ils créent des fondations, c’est pour cela.

Et puis, il y a aussi chez eux cette approche anglo-saxonne de l’éthique qui passe par la conformité : si ce que je fais ne fait de mal à personne, je peux le faire et ne risque pas de me faire attaquer. On confine à la gestion des risques juridiques. Je leur dis : d’accord vous ne faites rien de mal, mais enfin… vous ne faites de bien à personne non plus !

Est-il plus facile de travailler sur ces questions éthiques avec les « millenials » ?

É. S. : Ces générations nées entre 1980 et 2000 y sont en effet beaucoup plus sensibles. Il suffit de voir le succès d’une application comme Yuka, qui a conduit au déréférencement de plusieurs centaines de produits par la grande distribution, simplement parce que les gens ont décidé de ne plus les acheter. Ensuite, elles ne sont pas cohérentes à 100 %. On va à la fois ne pas manger tel fruit mais prendre l’avion pour un week-end à Bilbao, ou au contraire prendre le TGV parce que c’est zéro carbone mais changer de téléphone tous les ans…

Devant les investisseurs, les jeunes entrepreneurs ont l’habitude de présenter la photo par beau temps, ce qui se passera si tout va bien. Moi, je leur demande d’imaginer ce qui se passerait si, dans cinq ans, ils ont 95 % du marché. Auront-ils asséché une ressource rare ? Tué une profession et mis des milliers de gens au chômage ? Une start-up, comme un bébé tigre, c’est forcément mignon. Mais, quand ça grandit, ça commence à casser des choses, voire des gens ! Je leur dis : posez-vous donc des questions pour ne pas casser des choses demain.

Vous est-il arrivé de sentir qu’une discussion a amené une entreprise à prendre une direction différente ?

É. S. : Oui, de nombreuses fois. L’an dernier, on a par exemple travaillé sur l’utilisation de l’intelligence artificielle avec un consortium de grands assureurs comme Allianz, Swiss Life, CNP… Avec nous, ils ont défini de bonnes pratiques.

L’éthique, ce n’est pas que de grandes idées ou de grands débats mais aussi des questions très concrètes que se posent des chefs d’entreprise : cette boîte, je l’achète ou pas ? Cette technologie, on la lance ou pas ? Notre travail est à la fois très large, pour essayer de voir tous les aspects d’un problème, et très étroit. Par exemple, une compagnie d’assurances est-elle fondée à proposer des bracelets connectés comptant le nombre de pas faits par un assuré chaque jour, pour voir s’il a un mode de vie sain permettant de lui offrir une réduction sur son assurance santé ? Ou de voir s’il conduit prudemment ? C’est très louable, mais si la conduite est de l’ordre de la volonté, le régime alimentaire est aussi conditionné par des prédispositions génétiques à l’addiction… Faut-il pénaliser les gènes de celui qui a une addiction au sucre ?

Et puis, le travail sur l’éthique, c’est aussi une dynamique. Je pense à cette entreprise de vente en ligne de jus et de soupes. Ses produits périssables étaient emballés dans du polystyrène : bon pour le corps mais pas pour l’environnement ! Les deux gérantes y étaient sensibles et, dans leur pépinière d’entreprises, elles ont rencontré quelqu’un qui faisait des emballages en chanvre, plus chers mais collant mieux à leur projet. Elles ont pu faire le changement, mais si elles avaient attendu, elles n’auraient peut-être jamais démarré leur projet. Il ne s’agit pas d’attendre que tous les indicateurs soient au vert, mais d’être en permanence attentif à se poser les bonnes questions, pour voir ce qui peut être amélioré.

L’éthique n’est donc pas là pour brider la technologie ?

É. S. : Dans la tech, la compétition est féroce. Tout le monde est sous pression. Vendre plus cher un produit parce qu’il est plus propre n’est pas toujours possible. J’essaie de faire comprendre qu’on peut créer de la valeur en se basant sur des valeurs. L’idée n’est pas d’arbitrer entre ce qui est profitable et ce qui est éthique, car dans ce cas, c’est perdu, même si l’entrepreneur est bien intentionné. Derrière, il y a des actionnaires, des banquiers qui, à un moment, veulent qu’un projet rapporte.

Le seul moyen est d’aligner les planètes pour faire en sorte que l’éthique soit gage de création de valeur. Si c’est rarement à court terme, la plupart du temps, l’éthique est facteur de pérennité.

Quel serait votre pire cauchemar en ce qui concerne l’utilisation de l’intelligence artificielle ?

É. S. : Qu’elle nous assiste au point de nous rendre dépendants ; que tous nos assistants virtuels fassent tellement de choses pour nous qu’on en arrive à ne plus être capables de les faire nous-mêmes. Comme dans le film Wall-E, où toute l’humanité vit sur des canapés flottants, consommant ce qu’on lui dit de consommer.

→ CHRONIQUE. L’IA qui fabrique des IA

Faire société, au contraire, c’est être acteur d’un projet politique. Si un algorithme détecte les taches de cancer plus vite que le radiologue ou rédige les contrats plus vite que l’avocat, que fera-t-on de tous les gens au chômage, y compris ceux qui ont fait beaucoup d’études ? On aura besoin d’eux pour consommer, mais plus pour produire. D’où l’idée d’un revenu universel. Mais cela fera une société d’assistés. Le risque est de perdre en capacité d’action.

Je me souviens d’avoir rencontré Michel Serres juste avant sa mort. Il soulignait combien ces technologies numériques sont une révolution cognitive avant d’être une révolution industrielle. Mais l’humain est toujours sorti grandi de ces révolutions cognitives. Il me rappelait que Socrate était contre l’écriture : il estimait que la pensée pouvait tomber dans des mains à qui elle n’était pas destinée, que seul le dialogue permet de vraiment savoir ce qu’on pense… Finalement, l’invention de l’écriture nous a bien servis : quand on a arrêté de mémoriser, on a enfin eu du temps pour comprendre !

Ma question est donc de savoir comment ces technologies peuvent nous rendre plus humains, ou mieux humains – pas transhumains ou surhumains – ou au contraire dégrader notre humanité.

Sur ces sujets, l’Église n’a-t-elle pas un temps de retard ?

É. S. : Le retard n’est pas toujours où on l’imagine. Le Saint-Siège s’est par exemple bien saisi d’un sujet comme l’intelligence artificielle. Sans en dire trop, des rencontres de haut niveau ont lieu entre personnalités de la tech et de l’Église. Elles ont appris à se parler. Je ne dis pas que c’est facile, mais c’est cela qui est intéressant.

Mais l’Église, c’est aussi le peuple de Dieu, où il y a parfois plus de craintes. Car tout le monde n’a pas les moyens d’aller discuter avec Bill Gates. Certains réagissent à travers le prisme de ce qu’ils lisent et entendent, d’où certaines préventions.

Ces technologies ne sont-elles pas une menace pour la vision de l’homme telle que l’Église la conçoit ?

É. S. : On commence à comprendre, dans l’Église, que les technologies sont des productions de la société, aux deux sens du mot. Nous les produisons collectivement, et elles ressemblent aux sociétés qui les ont produites, plus ou moins mercantiles, communicantes, guerrières ou sécuritaires. Mais ces technologies nous produisent aussi : elles nous transforment.

→ À LIRE. Le pape étend le combat pro-vie aux nouvelles technologies

Ce n’est pas la même chose pour des jeunes de se rencontrer sur une application ou dans un dîner chez des amis. Le fait d’être produit par nos propres produits est quelque chose dont on commence seulement à percevoir la portée. Qu’est-ce que cela signifie être humain à l’âge de l’intelligence artificielle ? La relation au temps, à l’autre, au monde, la façon d’appréhender, de produire et de transmettre le savoir sont changées.

Avant, quand vous faisiez une recherche, vous ouvriez une encyclopédie. Celui qui cherchait était celui qui trouvait. Aujourd’hui, il y a tellement d’information qu’il faut s’appuyer sur des algorithmes pour la trier : vous cherchez, l’algorithme trouve. Or, ce qui intéresse l’algorithme n’est pas tant l’adéquation de la réponse à la vérité, mais ce qui lui semble le plus pertinent pour vous. « Ai-je bien répondu à votre question ? », demande Google, qui ne s’occupe pas de savoir si la réponse est vraie, mais si elle est populaire, en essayant de voir si un site est bien référencé, s’il y a beaucoup de liens…

La réponse qui émerge en premier sera celle de la majorité. Cela peut choquer : mais qu’est-ce que la démocratie, sinon élire celui qui est populaire ? Statuer sur l’impact de ces technologies pose donc des questions sociétales profondes.

Mais allons plus loin : quand vous faites une recherche sur Google vous avez 10 000 pages de réponses. Si vous posez une question à une enceinte connectée, vous n’aurez qu’une réponse. Ainsi, si vous lui demandez quelle est la capitale de la France, Google va vous dire Paris. Mais si vous demandez quelle est la capitale d’Israël, quelle sera la réponse : Tel-Aviv ou Jérusalem ? Derrière cela, il y a tout un arrière-plan dont vous n’avez aucune conscience. Or, à mesure que ces enceintes vont se multiplier, elles vont devenir une porte ouverte sur le savoir ne laissant passer qu’une seule information.

Qu’est-ce que le pape pense de ces technologies ?

É. S. : Ça, il faut le lui demander !

Sans entrer dans les discussions que vous pouvez avoir avec lui, quelle appréhension a-t-il de ces enjeux ?

É. S. : Pour quelqu’un de son âge et qui doit traiter d’une foule de sujets, il a une appréhension assez remarquable du sujet. Sans trahir aucun secret, les questions qu’il pose sont plutôt bonnes. Son épaisseur humaine l’amène à prendre du recul, à ne pas se laisser fasciner par le côté gadget, à ne pas rester prisonnier des évidences économiques. Pour lui, rien n’est acquis.

Le grand luxe du Vatican est qu’il n’y a pas de « Vatican tech ». Là où le gouvernement français ne peut intervenir sans avoir en tête les intérêts de son économie, lui peut se permettre de le faire. Cela offre une grande liberté.

Certains dirigeants d’entreprise nous ont dit : « Mais pourquoi personne ne nous a posé ces questions avant ? » Dans leur monde, ce sont des personnalités tellement connues et appréciées qu’on n’ose pas les questionner. Le pape, lui, le peut. C’est même ce qu’on attend de lui. Cela est apprécié par beaucoup d’interlocuteurs de la tech.

N’y a-t-il pas chez certains entrepreneurs un projet politique ? Par exemple un Elon Musk qui ambitionne de changer l’homme…

É. S. : Les communautés hippies voulaient bâtir un monde meilleur. Mais qu’est-ce qu’un monde meilleur ? Changer la société veut forcément dire un peu changer l’homme. En Europe, au XXe siècle, on s’est aperçu que créer un homme nouveau finissait souvent très mal. Ces traumatismes nous ont prémunis contre certains dangers. Mais tous n’ont pas fait cette expérience et n’ont pas de problème à mettre une case « religion » dans un fichier pour vous souhaiter « happy Hanoukka » ou « joyeux Noël ».

Certains mouvements transhumanistes ne se rendent pas compte que vouloir planifier la transformation de l’humain peut être problématique.

Pouvez-vous avoir un dialogue avec ces franges transhumanistes, qui comptent sur la technologie et la science pour augmenter les capacités physiques et mentales de l’être humain ?

É. S. : Ce ne sont pas ceux avec qui nous cherchons le plus à dialoguer. Nous les abordons plutôt comme chefs d’entreprise. Le transhumanisme est un narratif qui vient se plaquer sur le discours, mais sans changer la technologie en tant que telle. Ce qui m’intéresse ce sont ceux qui mettent en œuvre, développent ou exploitent les technologies : c’est là qu’il peut y avoir un effet de levier. Ou avec les acteurs des politiques publiques qui vont encourager, promouvoir, voire réguler ou encadrer ces technologies.

Et puis, les idées transhumanistes ont pris un coup avec le Covid, qui nous a montré que les technologies ne nous protégeaient pas comme on le pensait. L’épidémie nous a forcés à faire le deuil de l’idée de toute puissance technologique. C’est plutôt un bien.

Il y a une pensée magique autour de la technologie. On sait que, pour une civilisation, toute technologie suffisamment avancée confine à la magie. Quand les conquistadors sont arrivés debout sur des chevaux et plaqués de métal, les Amérindiens croyaient que c’étaient des dieux !

Pour vous, ces technologies seraient les nouveaux dieux d’aujourd’hui ?

É. S. : Je suis frappé par la façon dont les enceintes connectées arrivent dans les foyers : elles sont souvent sur l’îlot central de la cuisine. Une fois reliées au chauffage, à l’électricité et à l’alarme, elles sont les protectrices du foyer. Quand vous sortez, l’enceinte s’aperçoit que tous les téléphones du foyer sont dehors. Elle enclenche automatiquement l’alarme, baisse le chauffage. Elle prend soin du foyer.

Évidemment, les gens ne les prennent pas pour des dieux et ne vont pas s’agenouiller devant, mais elles finissent par occuper une place. Des enfants disent « non, je ne vais pas prendre mon manteau. J’ai demandé à Google et il m’a dit qu’il ne va pas pleuvoir ». Ça devient donc une forme d’autorité. C’est emblématique d’un certain rapport à la technologie. Comme le rapport à notre portable. On le regarde plusieurs fois par jour, et sans lui on est un peu perdu.

Vous avez ce rapport-là au portable ? Ou arrivez-vous à prendre une distance ?

É. S. : J’arrive à prendre une distance car je sais que, pour avoir une vie saine, il faut se fixer des règles. Par exemple, le mettre en mode avion à certains moments, le retourner pour ne pas voir les notifications quand on fait un travail créatif ou pendant une réunion.

Mais on parle aussi de choses en deçà du conscient, de l’ordre de la compulsion. C’est là qu’il faut être attentif. Un algorithme peut détecter qu’on est déprimés et nous pousser à acheter quelque chose pour compenser, nous prendre en situation de vulnérabilité, nous pousser à voter pour telle ou telle personne. C’est là où une régulation est nécessaire.

——

Ses dates

1970. Naissance

1993.Diplômé de l’Institut supérieur du commerce (ISC) de Paris

1999. Entrée chez les dominicains,
après une expérience dans la banque

2011-2018. Promoteur de l’ordre dominicain pour la communication, fonde le réseau Optic

2014. Membre de la commission de réforme des médias du Vatican

2017.Consulteur du Dicastère pour la communication

2019.Consulteur du Conseil pontifical de la culture

2021. Membre au Conseil national du numérique

——

Son livre

2001. L’Odyssée de l’espace, d’Arthur C. Clarke

« Ce roman absolument fascinant raconte comment la machine apprend, acquiert une personnalité, développe une névrose. Ce “transpécisme” est intéressant avec, d’un côté la machine et l’humain qui interagissent d’égal à égal et, de l’autre, l’humain et une forme de vie extraterrestre qui finissent par fusionner. Il pose, dès les années 1960, beaucoup de questions sur la relation à la technologie. »

Son film

Blade Runner, de Ridley Scott

« Ce classique des geeks nous interroge sur notre identité avec celui qui veut devenir humain et ne le sait pas et celui qui s’interroge sur son humanité. Suis-je humain ? Suis-je inhumain ? Ce sont des questions que nous sommes toujours amenés à nous poser en fonction de nos choix. »

Son paysage

La mer

« C’est un endroit où je me ressource vraiment. Le temps ne passe pas à la même vitesse quand on est en mer qu’à terre. On peut faire une sieste à l’intérieur du bateau et, quand on remonte, on a l’impression que rien n’a changé, alors qu’on a beaucoup avancé. On est vraiment dans la déconnexion. »

.

Leave a Reply

Your email address will not be published. Required fields are marked *