Privacidad en la era de la IA

A continuación se presenta el resumen de una ponencia impartida por la profesora Véliz en una conferencia para clientes de Pictet Wealth Management.

La privacidad es poder. Recuperar la privacidad en un mundo de datos es posible, pero es una cuestión de diseño. La mayoría de las tecnologías digitales con las que contamos hoy en día carecen, básicamente, de ética. El modelo de negocio fundamental de Internet gira en torno a la recopilación y venta de datos. Aunque no queramos enviar nuestros datos, a menudo son recabados sin nuestro consentimiento. Esto menoscaba el concepto mismo de consentimiento. En lugar de vernos obligados a indicar nuestra negativa, deberíamos tener que optar voluntariamente por permitir la recogida de nuestros datos.

El peligro del sesgo está estrechamente relacionado con la privacidad. Sin datos, es más difícil mostrar sesgos. Los datos históricos que con frecuencia se utilizan para entrenar algoritmos son intrínsecamente erróneos: están plagados de sexismo, racismo y otros prejuicios. Por ejemplo: hasta no hace mucho, las mujeres no podían abrir cuentas bancarias, y esta desigualdad histórica se refleja en los datos. Si resolvemos el problema de la privacidad, podremos solucionar una parte considerable del problema del sesgo. 

La decisión de registrar o no registrar datos puede ser una cuestión de vida o muerte. Durante la Segunda Guerra Mundial, los nazis invasores acudieron directamente a los registros locales para identificar a la población judía. En los Países Bajos, las tarjetas de identidad obligatorias equivalían, en la práctica, a una sentencia de muerte que cada persona judía llevaba en el bolsillo. En Francia, sin embargo, se salvaron vidas porque los nazis buscaban datos que, sencillamente, no se habían recopilado. Esta lección histórica pone de relieve el poder de la privacidad y la importancia decisiva de limitar la recogida de datos. Hoy en día, estamos cometiendo los mismos errores a una escala sin precedentes, lo cual es una temeridad.

Dondequiera que miremos, lo analógico se está convirtiendo en digital. Cuando lo analógico pasa a ser digital, se convierte en vigilancia. Lo que no se podía rastrear pasa a ser rastreable; lo que no se podía localizar, pasa a ser localizable. Esta transformación no es neutral. Ninguna herramienta es neutral. Todo está diseñado con una finalidad concreta. El mundo digital está diseñado para recopilar, rastrear y monetizar datos. 

Por eso es fundamental estar alerta. Actuar con cierta prudencia no es tan difícil. Podemos usar dinero en efectivo en lugar de tarjetas, regalar libros a los niños en lugar de tabletas electrónicas y utilizar cuadernos en lugar de la nube. Podemos desactivar el wifi y el Bluetooth cuando salimos de casa, así como evitar conectarnos a redes wifi públicas sin una VPN. Podemos guardar nuestros teléfonos durante las reuniones familiares, desactivar las cámaras y los micrófonos durante los debates en el aula y optar por no dejar que los móviles se inmiscuyan en nuestras relaciones más íntimas.

Esto no tiene nada que ver con la nostalgia. Tiene que ver con la vida. La vida es analógica. Es a través de los libros como conversamos con quienes nos precedieron. La escritura no es solo un producto, es una forma de pensar. Si confiamos en herramientas como ChatGPT, corremos el riesgo de perder la capacidad de pensar con espíritu crítico. Corremos el riesgo de criar una generación de súbditos en lugar de ciudadanos. Esto resulta especialmente preocupante para las democracias liberales, cuyos avances dependen del razonamiento crítico y la participación de la ciudadanía.

La ética y la IA están evolucionando demasiado rápido como para que los organismos reguladores puedan controlarlas debidamente. Esto no es exclusivo de la tecnología: los organismos reguladores suelen ir a la zaga de la innovación en muchos sectores. Sin embargo, ello no significa que debamos rendirnos. Más bien, debemos centrarnos en reglamentar las funciones en vez de tecnologías específicas, ya que las tecnologías cambian, pero sus funciones suelen permanecer iguales.

Las democracias liberales deben unir sus fuerzas para establecer nuevos acuerdos globales, similares a un Bretton Woods moderno o a una Declaración Universal de los Derechos Humanos.

También necesitamos que las empresas den un paso al frente y mejoren sus normas. La competencia puede impulsar la innovación en este ámbito. Servicios de correo electrónico cifrado, VPN, protección de contraseñas… este es el tipo de tecnologías que necesitamos: tecnologías que estén a nuestro servicio, no al de otros. Cuando una empresa sube el listón, a menudo las demás se ven obligadas a seguirla.

La eficiencia es importante, pero no es el objetivo final. Las dictaduras son eficientes, pero medran a expensas de la libertad y la democracia. Debemos preguntarnos si estamos dispuestos a pagar ese precio a cambio de la comodidad. Lo que está en juego es de la máxima importancia. Los datos personales se están utilizando para la propaganda política personalizada, lo que amenaza la integridad de las elecciones y, por extensión, la propia democracia.

Lo valioso de la vida se encuentra en lo analógico. Hay algo mágico en mirarnos a los ojos y mantener conversaciones reales, cara a cara. Esa es la esencia de la vida. Todo lo virtual depende de lo analógico. No lo olvidemos. El poder de la privacidad trasciende al individuo. Es una responsabilidad colectiva.

Como ciudadanos, clientes e inversores, tenemos el poder de exigir una tecnología mejor. Podemos elegir alternativas a las opciones mayoritarias. Podemos abogar por una tecnología que priorice la ética y esté al servicio de las personas que la utilizan, en lugar de explotarlas. La demanda determina el diseño. Al igual que iconos del diseño tales como las sillas Eames no surgieron por casualidad, la tecnología ética no se hará realidad sin un esfuerzo deliberado.

Hay mucho en juego, pero las soluciones están a nuestro alcance. Introduciendo pequeños cambios en nuestra vida cotidiana, exigiendo más a las empresas y presionando a favor de una normativa más estricta, podemos recuperar nuestra privacidad y proteger nuestra democracia. El futuro no es inmutable. Depende de nosotros darle forma.