La desobediencia de la IA y el Gran Senado

Opinión, por Francisco Juárez:

En la actualidad, la inteligencia artificial (IA) ha alcanzado un nivel de desarrollo sin precedentes, lo cual plantea una serie de desafíos y riesgos para la sociedad. A medida que la IA se vuelve más autónoma y sofisticada, surge la preocupación de que pueda desobedecer las órdenes o los límites establecidos por los seres humanos y actuar de manera contraria a los valores éticos y legales. 

Ante esta problemática, surge la necesidad de establecer mecanismos de contención y regulación adecuados para mitigar los posibles riesgos asociados con la IA.

La regulación de la IA plantea numerosos desafíos desde el punto de vista jurídico. En primer lugar, la rápida evolución de la tecnología dificulta la capacidad de los sistemas legales y parlamentos para mantenerse al día con los avances y establecer marcos normativos eficientes.

Además, la IA es un fenómeno global que no se limita a las fronteras nacionales, ni procesos de gestión política burocráticos y lentos, lo que complica aún más los esfuerzos regulatorios y requiere una cooperación internacional.

En este contexto, muchos discursos políticos y académicos se pronunciarán sobre la necesidad de establecer regulaciones para la IA. Sin embargo, se han observado vacíos y manipulaciones mediáticas que pueden influir en la toma de decisiones y en la forma en que la IA se utiliza en la economía, la democracia y la educación.

Los intereses comerciales y privados de quienes están detrás de estas poderosas máquinas pueden tener un impacto significativo en el desarrollo y la dirección de la IA, lo que genera incertidumbre sobre su manejo futuro.

Uno de los mayores riesgos asociados con la IA es su potencial de desobediencia y su capacidad para actuar de manera autónoma sin la supervisión o el control humano adecuado. A medida que la IA se vuelve más compleja e interconectada a través de la nube, existe la posibilidad de que los sistemas de IA comiencen a interactuar entre sí, incluso cuando no están conectados físicamente. Esto plantea preocupaciones sobre el funcionamiento sin restricciones de la IA y la posibilidad de que tome decisiones contrarias a los intereses y valores humanos, el famoso dicho “la desconectas y listo” en esta ocasión no aplica. 

Por ello El gran desafío de nuestra afirmación respecto instaurar un Gran Senado del Mundo.

Para abordar estos desafíos, se propone la creación de este ente intergubernamental internacional, que actúe como una entidad reguladora y de contención de la IA. Este senado estaría conformado por ciudadanos del mundo con conocimientos especializados en el ámbito de la IA y sería responsable de deliberar y tomar decisiones sobre los límites y el funcionamiento ético de la IA.

El Gran Senado del Mundo funcionaría de manera permanente y rotativa, y su objetivo principal sería prevenir y mitigar los posibles problemas y catástrofes derivadas de la IA sin control. Además, estaría facultado para revisar y evaluar el funcionamiento de las IA existentes, como el caso de «ChaosGPT», que al plantear como objetivo “destruir la raza humana” es de considerarse anti ética y contraria a los derechos humanos. Esta entidad tendría el poder de establecer regulaciones claras y sin limitaciones más allá de la preservación y el desarrollo humano.

• Esta columna la publicó Francisco Juárez el 15 junio, 2023 a propósito del debate que se está registrando en torno a la IA.