Democracia sin sistema operativo: El Estado ante la IA, la urgencia de un constitucionalismo digital

A título personal, por Armando Morquecho Camacho

En su libro 1984, el escritor británico George Orwell imaginó un futuro donde la manipulación de la información era el instrumento último del poder: reescribir la realidad hasta que nadie pudiera distinguir entre verdad y mentira. Setenta años después, la distopía dejó de ser un ejercicio literario para convertirse en una advertencia incómoda.

No vivimos bajo un Gran Hermano monolítico, pero coexistimos en un ecosistema donde las imágenes pueden falsificarse en segundos, las voces pueden clonarse al instante y los discursos pueden replicarse indefinidamente sin autor identificable. La diferencia entre la ficción y nuestro presente es que Orwell imaginó un Estado omnipotente capaz de manipularlo todo; nosotros enfrentamos algo más peligroso: un Estado incapaz de controlar este fenómeno.

Ese es el vacío que dejó la inteligencia artificial. En mi columna anterior hablé del desfase entre tecnología y política, de la desigualdad digital, de los riesgos democráticos y de la incapacidad jurídica para enfrentar a un actor que se mueve más rápido que cualquier institución. Pero existe un problema más profundo, uno que exige pasar del diagnóstico al diseño: la IA no solo rebasó al Estado; dejó al descubierto que no contamos con instituciones capaces de gobernar un mundo digitalizado, automatizado y algorítmico.

Hoy, el debate ya no es si debe regularse la IA, sino qué tipo de Estado necesitamos para hacerlo. Pretender que la misma burocracia, el mismo diseño institucional y los mismos procesos normativos creados para el siglo XX bastarán para regular un ecosistema automatizado es ingenuo. La IA no exige leyes aisladas: exige repensar toda la gobernanza.

El primer punto es entender que México —como casi todos los países— opera sistemas automatizados desarrollados, entrenados y optimizados bajo criterios que no controla. Plataformas educativas, modelos de lenguaje utilizados en el sector privado, sistemas de análisis de riesgo financiero, herramientas médicas o jurídicas: todos funcionan con datos extranjeros, valores ajenos y parámetros que reflejan otras realidades. La soberanía del siglo XXI ya no se define solo por fronteras físicas: se juega también en la capacidad de un país para auditar y supervisar los modelos que influyen en sus decisiones públicas y privadas.

Aquí aparece el problema central: México, al igual que la mayoría de las naciones, no tiene un sistema de supervisión algorítmica, ni obligaciones de transparencia, ni protocolos de auditoría, ni estándares que definan cómo debe operar un modelo utilizado en ámbitos críticos. La política tecnológica del país sigue atrapada en una lógica de “adoptemos herramientas”, cuando la discusión real debería ser: “¿bajo qué reglas, con qué supervisión y con qué principios?”.

Esto se vuelve evidente en un terreno especialmente delicado: el servicio público. La discusión suele reducir la IA a un reemplazo laboral, cuando el verdadero impacto será sobre la estructura misma de la burocracia. No se trata de que desaparezcan puestos, sino de que se transformen funciones. Los servidores públicos del futuro necesitarán habilidades técnicas para interpretar resultados automatizados, cuestionar recomendaciones generadas por modelos y evitar delegar ciegamente decisiones en sistemas que no comprenden. Una burocracia sin alfabetización digital es una burocracia incapaz de gobernar.

Del otro lado, tampoco existe una estrategia que identifique en qué áreas la automatización puede mejorar la eficiencia estatal y en cuáles podría comprometer derechos. El Estado mexicano sigue operando con el reflejo de que todo es susceptible de modernización, cuando la IA exige algo más: criterios. No todo debe automatizarse y, en ciertos casos, la intervención humana sigue siendo indispensable, no por romanticismo, sino por responsabilidad jurídica.

Un ejemplo ilustrativo aparece en las instituciones electorales. La semana pasada mencioné el riesgo de campañas invisibles creadas por IA, pero no hablé del rediseño que este fenómeno exige. No se trata, como algunos imaginan, de crear una “autoridad algorítmica” futurista. Se trata de algo más sensato y urgente: adaptar la fiscalización electoral a un entorno donde los mensajes políticos pueden generarse masivamente, personalizarse y distribuirse sin rastros visibles.

La autoridad electoral no necesita ser experta en modelaje computacional, pero sí debe contar con mecanismos técnicos para identificar patrones de generación automatizada, rastrear contenido producido por IA generativa, exigir reportes de campañas digitales y establecer mínimos de transparencia para actores políticos. Es un rediseño operativo, no un salto utópico. Y, a diferencia de las propuestas maximalistas, es posible, realista y necesario.

Todo esto apunta a una conclusión inevitable: la IA exige la construcción de un nuevo constitucionalismo digital, una reinterpretación de principios clásicos —legalidad, responsabilidad, transparencia, debido proceso, libertad de expresión, privacidad— aplicados a un entorno donde decisiones pueden tomarse mediante sistemas opacos, entrenados con datos ajenos y replicados sin control. No basta con adaptar leyes: es necesario actualizar la forma en que entendemos el ejercicio del poder, la protección de derechos y la responsabilidad del Estado frente a tecnologías con autonomía operativa.

Este nuevo constitucionalismo no implica un Estado omnipresente ni hiperregulador, sino un Estado capaz de establecer límites, exigir transparencia, supervisar procesos y garantizar que la innovación no sea un atajo para eludir responsabilidades. La ausencia de regulación no es libertad: es vulnerabilidad. Y la regulación inteligente no es freno: es infraestructura.

La pregunta, entonces, no es si México debe regular la IA; es si tiene la capacidad institucional para hacerlo sin improvisación, sin fetichismo tecnológico y sin caer en el extremismo digital que cree que la solución está en prohibir o automatizarlo todo. La verdadera tarea consiste en construir una gobernanza que reconozca el valor de la innovación, sin renunciar a la protección de derechos.

Porque insistamos: la IA no sustituye al Estado. Lo desnuda. Lo obliga a actualizar su sistema operativo institucional. Lo confronta con sus carencias. Y lo interpela a decidir si quiere ser un Estado espectador o un Estado garante.

Orwell imaginó un mundo donde el poder controlaba toda la información. Nuestro riesgo es el inverso: un mundo donde la información nos controla porque nadie controla los sistemas que la producen. Por eso, la pregunta ya no es literaria ni tecnológica: es política.

¿Estará preparado el Estado para enfrentarla?