Decidir en tiempos de algoritmos

Opinión, por Mairel Bueno Rocha

Hablar de brecha digital entre las juventudes ya no significa solamente preguntarnos quién tiene acceso a internet, una computadora o un teléfono celular. Hoy existe otra desigualdad menos visible: qué tanto comprendemos la tecnología que utilizamos y qué capacidad conservamos para decidir frente a ella.

La inteligencia artificial (IA) está cada vez más presente en nuestra vida cotidiana. La utilizamos para buscar información, estudiar, comunicarnos, entretenernos e incluso para tomar algunas decisiones. Sin embargo, tener acceso a estas herramientas no significa necesariamente saber cómo funcionan ni comprender por qué nos muestran determinados contenidos.

La UNESCO (2021) advierte que la IA puede profundizar desigualdades que ya existen. Por ello, hablar de inclusión digital también implica desarrollar pensamiento crítico, alfabetización mediática y conocimientos que permitan utilizar responsablemente estas tecnologías. Estamos pasando de una brecha relacionada con el acceso a otra que podríamos llamar brecha algorítmica: la distancia entre quienes comprenden y cuestionan la tecnología y quienes simplemente la utilizan.

Juventudes frente al capitalismo de vigilancia

Esta realidad puede comprenderse mejor desde el capitalismo de vigilancia planteado por Shoshana Zuboff (2019). Buena parte de nuestra actividad digital produce datos: lo que buscamos, vemos, compartimos, compramos o el tiempo que permanecemos frente a determinado contenido.

Para las juventudes esto es especialmente importante porque las plataformas digitales forman parte de su manera de relacionarse, informarse, entretenerse y construir su propia identidad. Esto nos lleva a una pregunta sencilla, pero necesaria: ¿qué tan libres son nuestras decisiones cuando interactuamos todos los días con sistemas que aprenden de nuestros gustos y comportamientos?

No significa que los jóvenes sean incapaces de decidir. El problema está en la desigualdad de la relación: nosotros conocemos muy poco de los algoritmos, mientras que las plataformas pueden llegar a conocer mucho de nuestros hábitos.

La necesidad de instituciones que también aprendan

Aquí encuentro especialmente útil el pensamiento de Daniel Innerarity (2020). Si vivimos en sociedades cada vez más complejas, no basta con tener más tecnología. También necesitamos instituciones capaces de aprender, organizar información, escuchar y tomar mejores decisiones.

Esto es lo que podemos entender como inteligencia institucional. Un gobierno puede digitalizar sus servicios y seguir estando lejos de la ciudadanía. De la misma manera, una institución puede incorporar IA sin preguntarse qué consecuencias tendrá para las personas.

Por eso, innovar no significa automatizar todo. Significa saber qué podemos confiar a la tecnología y qué decisiones deben continuar bajo responsabilidad humana.

Derechos humanos frente a los algoritmos

La discusión también involucra derechos. La Convención sobre los Derechos del Niño reconoce derechos vinculados con la privacidad, información, educación, protección y desarrollo. La Observación General núm. 25 del Comité de los Derechos del Niño (2021) lleva esta protección al entorno digital.

La UNESCO (2021), por su parte, plantea principios para el uso ético de la IA relacionados con dignidad, privacidad, transparencia, equidad, no discriminación y supervisión humana.

La falta de regulación no representa automáticamente una violación de derechos humanos. Sin embargo, sí debemos preguntarnos qué responsabilidad tienen los Estados cuando las plataformas conocen cada vez más sobre las personas, especialmente sobre niñas, niños y jóvenes, mientras la ciudadanía sabe muy poco sobre cómo se utilizan sus datos o cómo funcionan los sistemas que influyen en aquello que observa.

Conclusión

La inteligencia artificial ofrece oportunidades que hace algunos años parecían difíciles de imaginar, pero también nos coloca frente a nuevas desigualdades y responsabilidades. Zuboff nos ayuda a comprender que nuestros datos tienen valor y que detrás de muchas plataformas existen intereses económicos. Innerarity nos lleva a otra pregunta igualmente importante: ¿tenemos instituciones preparadas para gobernar esta transformación?

El desafío no es enseñar a las juventudes solamente a utilizar inteligencia artificial. Necesitamos jóvenes capaces de preguntar, cuestionar, comprender y decidir.

La democracia también se juega en esos espacios aparentemente cotidianos: en aquello que vemos, compartimos y aceptamos frente a una pantalla. Por eso necesitamos instituciones capaces de aprender y utilizar la tecnología sin entregar a los algoritmos decisiones que nos corresponden como personas.

La brecha del futuro quizá ya no sea solamente entre quienes tengan o no acceso a la tecnología. Puede estar entre quienes comprendan cómo funciona y tengan herramientas para decidir frente a ella, y quienes terminen aceptando decisiones que otros sistemas toman por ellos. Ahí está uno de nuestros mayores retos: utilizar la inteligencia artificial para ampliar nuestras capacidades, sin renunciar al derecho humano y democrático de seguir decidiendo.

Referencias

Comité de los Derechos del Niño de las Naciones Unidas. (2021). Observación general núm. 25 relativa a los derechos de los niños en relación con el entorno digital. Naciones Unidas.

Innerarity, D. (2020). Una teoría de la democracia compleja: Gobernar en el siglo XXI. Galaxia Gutenberg.

UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial. UNESCO.

UNESCO. (2023). Guidance for generative AI in education and research. UNESCO.

UNICEF. (2025). Guidance on AI and children. UNICEF Innocenti.

Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. PublicAffairs.