¿Quién le pone el cascabel a la IA?

Por Miguel Anaya.

Hay una pregunta que empieza a aparecer detrás de todas las discusiones sobre inteligencia artificial y que quizá sea más importante que saber cuántos empleos desaparecerán: ¿quién va a defender al ciudadano cuando el poder tecnológico sea mayor que el poder de las instituciones encargadas de regularlo?

Porque resulta muy bonito hablar de renta básica, más tiempo libre, educación permanente y desarrollo humano. El problema es que ninguna de esas cosas ocurre por generación espontánea.

Alguien tiene que pagarlas y diseñarlas, pero, sobre todo, alguien tiene que obligar a quienes concentren la riqueza y la tecnología a aceptar las reglas de una sociedad que no está formada solamente por ellos. Ahí comienza la verdadera discusión.

Durante siglos aprendimos a desconfiar del poder. Por eso inventamos contrapesos. En un sistema como el nuestro, el Legislativo hace las leyes, el Ejecutivo las aplica y el Judicial determina responsabilidades y protege derechos. La división nunca ha sido perfecta, pero la idea es sensata: nadie debería hacerlo todo.

Ahora aparece un poder diferente. No ocupa un escaño, no necesita ganar una elección y no firma decretos. Pero puede anticipar comportamientos, producir información, automatizar decisiones y multiplicar la capacidad económica de quienes controlen sus sistemas.

Entonces aparece una pregunta para la que todavía no tenemos una respuesta convincente: ¿quién será el contrapeso de la inteligencia artificial y, sobre todo, de quienes la controlen?

La inteligencia artificial no tiene conciencia moral en el sentido humano. No se preocupa por la desigualdad ni se arrepiente de una decisión injusta. Optimiza objetivos, sigue instrucciones y trabaja con datos y restricciones definidos por personas.

Si una empresa desarrolla una inteligencia artificial para maximizar ganancias, buscará hacerlo y punto. No porque la máquina sea capitalista, sino porque alguien le dijo que esa era la prioridad. Y si un gobierno la utiliza para maximizar seguridad, podría terminar privilegiando la seguridad sobre la privacidad.

La máquina puede ser extraordinariamente inteligente. La cuestión sigue siendo quién escribió las reglas.

Europa ya ha comenzado a establecer mecanismos de supervisión humana para determinados sistemas de alto riesgo, incluyendo la posibilidad de intervenir o detenerlos. Es un comienzo, pero la tecnología avanza más rápido que nuestra capacidad institucional para comprenderla y regularla, y ahí el ciudadano promedio puede convertirse en la parte más débil.

Imaginemos que un sistema le niega un crédito, descarta su solicitud de empleo, modifica el precio de un seguro o determina que representa determinado riesgo. Desaparecer a una persona de todo un sistema de empleo, educación y salud está al alcance de un clic.

Entonces, ¿quién puede revisar la decisión? ¿Quién tiene capacidad técnica para enfrentarse a la empresa que diseñó el sistema? ¿Quién puede decirle a una empresa tecnológica que se detenga?

La tecnología no tiene una inclinación natural hacia la justicia ni hacia la injusticia. Puede producir abundancia y también concentrarla. Puede ampliar la libertad o facilitar la vigilancia. Todo depende de las reglas preestablecidas y, detrás de ellas, del poder.

Foucault probablemente disfrutaría demasiado esta parte. Heidegger advertiría que podríamos terminar mirando al mundo como una máquina: todo medido, clasificado y optimizado. Beauvoir preguntaría quién queda fuera. Bauman recordaría que hasta nuestra identidad puede volverse provisional. Harari señalaría que las instituciones son construcciones humanas y, por lo tanto, pueden ser reconstruidas. Ahí está nuestra oportunidad.

Necesitamos nuevos contrapesos para el poder tecnológico: reguladores independientes, tribunales capaces de comprender estas tecnologías, auditorías, derechos digitales exigibles, transparencia y mecanismos reales para detener sistemas que produzcan daños.

No se trata de impedir que las máquinas produzcan. Se trata de impedir que la inteligencia tecnológica se convierta en poder sin contrapeso.

En democracia, los votos pueden cambiar a un gobierno. Pero resulta mucho más difícil enfrentarse a una estructura que nadie eligió, que pocos entienden, que controla una infraestructura indispensable y que puede tomar decisiones sobre millones de personas sin aparecer jamás en una boleta electoral.

Y cuando una máquina o aplicación decida sobre nuestra vida, ¿quién tendrá el poder de decirle que no? Y si la respuesta termina siendo «quien sea dueño de la máquina», quizá el problema no sea la inteligencia artificial.