Le texte qui suit est le résumé d’un discours donné par le Professeur Véliz lors d’une conférence destinée aux clients de Pictet Wealth Management.
La confidentialité, c’est le pouvoir. On peut retrouver la confidentialité dans un monde de données, mais tout est une question de conception. La plupart des technologies numériques que nous utilisons aujourd’hui sont fondamentalement contraires à l’éthique. Le modèle économique de base d’Internet repose sur la collecte et la vente de données. Même si nous ne voulons pas envoyer nos données, elles le sont souvent sans notre consentement. La notion même de consentement s’en trouve remise en cause. Au lieu d’être obligés de nous désinscrire, nous devrions avoir à nous inscrire.
Le danger des biais est étroitement lié à la confidentialité. Sans données, il est plus difficile d’être biaisé. Les données historiques, qui sont souvent utilisées pour former des algorithmes, contiennent un défaut intrinsèque: elles sont pétries de sexisme, de racisme et d’autres préjugés. Par exemple, la possibilité pour les femmes d’ouvrir un compte bancaire n’est pas si ancienne, et cette inégalité historique se reflète dans les données. Si nous résolvons le problème de la confidentialité, nous pouvons surmonter une partie importante du problème des biais.
Quand l’analogique devient numérique, la surveillance s’invite.
Le choix d’enregistrer ou non des données peut être une question de vie ou de mort. Pendant la Seconde Guerre mondiale, les envahisseurs nazis se rendaient directement dans les services locaux d’état civil pour recenser les populations juives. Aux Pays-Bas, à cause des cartes d’identité obligatoires chaque Juif transportait littéralement une condamnation à mort dans sa poche. En France, cependant, des vies ont été sauvées parce que les nazis cherchaient des données qui n’avaient tout simplement pas été recueillies. Cette leçon historique souligne la puissance de la confidentialité et l’importance critique de limiter la collecte de données. Aujourd’hui, nous commettons les mêmes erreurs à une échelle sans précédent, ce qui est imprudent.
Où que nous regardions, l’analogique laisse la place au numérique. Quand l’analogique devient numérique, la surveillance s’invite. Ce qui était intraçable devient traçable, ce que l’on ne pouvait rechercher peut l’être. Cette transformation n’est pas neutre. Aucun outil n’est neutre. Tout est conçu dans un but précis. Le monde numérique est conçu pour collecter, suivre et monétiser les données.
C’est pourquoi la vigilance est essentielle. Faire preuve d’une certaine prudence n’est pas si difficile. Nous pouvons utiliser de l’argent liquide au lieu d’une carte de paiement, donner des livres aux enfants plutôt que des tablettes et nous servir d’un bloc-notes au lieu du cloud. Nous pouvons désactiver notre Wi-Fi et notre Bluetooth lorsque nous quittons la maison et éviter de nous connecter à un réseau Wi-Fi public sans VPN. Nous pouvons ranger nos téléphones pendant les réunions familiales, éteindre les caméras et les microphones pendant les débats en classe et choisir de ne pas inviter nos téléphones dans nos relations les plus intimes.
Il ne s’agit pas de nostalgie, mais de vie. La vie est analogique. C’est à travers les livres que nous discutons avec ceux qui sont venus avant nous. L’écriture n’est pas seulement un produit, c’est une façon de penser. Si nous nous appuyons sur des outils comme ChatGPT, nous risquons de perdre la capacité de penser de manière critique. Nous courons le risque d’élever une génération de sujets plutôt que de citoyens. C’est particulièrement préoccupant pour les démocraties libérales, dont la prospérité dépend de citoyens critiques et engagés.
L’éthique et l’IA évoluent trop rapidement pour que les régulateurs puissent suivre le rythme. Ce n’est pas un phénomène qui ne concerne que la technologie; les régulateurs sont souvent en retard sur l’innovation dans de nombreux secteurs. Cela ne signifie pas pour autant que nous devrions baisser les bras. À l’inverse, nous devons nous concentrer sur la régulation des fonctions plutôt que sur des technologies particulières, car les technologies changent mais leurs fonctions restent souvent les mêmes.
Les démocraties libérales doivent unir leurs efforts pour mettre en place de nouveaux accords mondiaux, comparables à un Bretton Woods ou à une Déclaration universelle des droits de l’homme des temps modernes.
Photographie de Luca Locatelli
ETpathfinder à Maastricht, l’installation de la première tour marque une étape importante dans l’assemblage des systèmes internes de l’installation. La tour abrite des systèmes optiques et de suspension ultra-stables utilisés destinés à tester les technologies des futurs détecteurs d’ondes gravitationnelles.
The Dutch Visionary Futures for Humankind, 2025
Nous avons également besoin que les entreprises se mobilisent et renforcent leurs standards. La concurrence peut stimuler l’innovation dans ce domaine. Les services de messagerie chiffrés, les VPN ou encore la protection par mot de passe sont des technologies dont nous avons besoin, des technologies qui nous servent, nous, pas quelqu’un d’autre. Lorsqu’une entreprise place la barre plus haut, les autres sont souvent obligées de suivre.
L’efficacité est importante, mais ce n’est pas l’objectif ultime. Une dictature est efficace, mais au détriment de la liberté et de la démocratie. Nous devons nous demander si nous sommes prêts à payer un tel prix à la commodité. Les enjeux ne pourraient pas être plus élevés. Les données personnelles sont utilisées à des fins de propagande personnalisée, ce qui menace l’intégrité des élections et, par extension, la démocratie elle-même.
La richesse de la vie réside dans l’analogique. Il y a quelque chose de magique à regarder quelqu’un d’autre dans les yeux et à converser en face à face. C’est l’essence même de la vie. Tout ce qui est virtuel dépend de l’analogique. Ne l’oublions pas. Le pouvoir de la confidentialité ne se limite pas à l’individu. C’est une responsabilité collective.
Le monde numérique est conçu pour collecter, suivre et monétiser les données.
En tant que citoyens, clients et investisseurs, nous avons le pouvoir d’exiger une meilleure technologie. Nous pouvons choisir des alternatives aux options traditionnelles. Nous pouvons défendre une technologie qui privilégie l’éthique et sert les personnes qui l’utilisent au lieu de les exploiter. La demande contrôle le design. Les légendes du design, telles que les chaises Eames, ne sont pas apparues pas par hasard. De même, la technologie éthique ne se produira pas sans un effort volontaire.
Les enjeux sont élevés, mais les solutions sont à notre portée. Si nous apportons quelques petits changements dans notre vie quotidienne, si nous exigeons des entreprises qu’elles fassent mieux et si nous plaidons pour des réglementations plus strictes, nous pourrons récupérer notre vie privée et protéger notre démocratie. L’avenir n’est pas gravé dans le marbre, c’est à nous de le façonner.
