Gobernanza de la IA, libertad cognitiva y mecanismos de protección
Qué se entiende por libertad cognitiva, cómo se describe el riesgo de delegar el juicio en sistemas automatizados y qué mecanismos de protección se han propuesto desde la filosofía, la investigación y la regulación europea.
La inteligencia artificial es una tecnología que consigue escalar la intencionalidad de quién la controla. El foco que se pone actualmente en el riesgo técnico, en realidad es un riesgo que humano: la herramienta amplifica intereses, sesgos y voluntades de los egos de quienes disponen de la infraestructura para desplegarla.
Asimetría de poder e información
La implantación de estos sistemas facilita una concentración de capacidad en un número reducido de actores corporativos y estatales. De ahí se sigue una asimetría informativa: el control de la infraestructura digital permite condicionar narrativas y percepciones a escala masiva. En ese marco, la noción de "consentimiento informado" pierde parte de su sentido, porque la influencia está integrada en la arquitectura de decisión y el sujeto no siempre puede identificarla.
Los pilares del riesgo se desglosan habitualmente en tres:
- Control de la información. Capacidad de saturar o sesgar el ecosistema informativo y reducir la pluralidad.
- Control de las decisiones. Delegación de procesos críticos en sistemas que responden a los objetivos de quien los opera.
- Control de las percepciones. Alteración de la realidad percibida mediante generación de contenido sintético no señalado.
Mecanismos de protección multidimensional
La protección necesaria no es únicamente técnica, si no que debería desplegarse en:
- Cognitiva. Proteger el criterio propio: verificar fuentes de forma activa, limitar la delegación mental y cuestionar por sistema las sugerencias algorítmicas.
- Informativa. Diversificar fuentes, detectar patrones de influencia y evitar las monoculturas informativas.
- Estructural. Marcos regulatorios exigentes, auditorías externas adversariales, transparencia algorítmica y trazabilidad.
- Psicológica. Mantener el criterio propio en las decisiones de vida y no entregar el control emocional a interfaces persuasivas.
- Social. Fortalecer vínculos presenciales y redes de apoyo no digitales, que mitigan el aislamiento sobre el que opera la manipulación.
Delegación cognitiva y fricción
El escenario que se señala como más probable no es que un sistema tome el control, sino que la persona lo entregue por comodidad. A esa renuncia voluntaria a interpretar la realidad por uno mismo se la denomina delegación cognitiva.
Frente a ella se ha propuesto introducir fricción cognitiva en el diseño: no una pausa decorativa, sino protocolos que obliguen a la verificación cruzada. Dos ejemplos citados:
- Instrucciones adversariales: el sistema pide al usuario que justifique su decisión cuando esta coincide literalmente con la recomendación automática.
- Verificación obligatoria: en entornos institucionales, prohibición de delegar por completo decisiones críticas sin auditoría de criterio humano.
Antecedentes filosóficos
La sensación de obsolescencia fue descrita en el siglo XX:
- Günther Anders y la vergüenza prometeica: el sentimiento de inferioridad ante la perfección de los propios productos, hoy legible como sumisión al juicio del algoritmo por suponerlo más objetivo.
- Hannah Arendt y el thoughtlessness: la incapacidad de pensar críticamente sobre las consecuencias de la técnica como motor de la delegación.
- Jacques Ellul y el entorno tecnológico: la técnica no es una herramienta sino un entorno que acaba dirigiendo al técnico, lo que conecta con la idea de monocultura informativa.
Discusión académica actual
Nita Farahany y la "Libertad Cognitiva" (Cognitive Liberty): Catedrática de Derecho y Filosofía en la Universidad de Duke y autora de The Battle for Your Brain (2023). Farahany abandera la creación de un nuevo derecho humano fundamental: la libertad cognitiva, definida como el derecho a la autodeterminación mental, la privacidad de los procesos de pensamiento y la protección del fuero interno frente a la vigilancia algorítmica y la manipulación de la neurotecnología.
Byung-Chul Han y la "Infocracia" (2022): En su obra Infocracia: La digitalización y la crisis de la democracia, Han argumenta que el régimen de información actual no opera mediante la coacción violenta, sino mediante la seducción algorítmica y la saturación informativa. La pérdida de soberanía ocurre cuando la deliberación pública es sustituida por el consumo inmediato de contenido sintético y la fragmentación de la verdad común.
Shoshana Zuboff y el "Poder Instrumental" (2019): En La era del capitalismo de vigilancia, Zuboff describe cómo la concentración de capital y datos ha creado un nuevo tipo de poder que no busca someter al individuo, sino modificar su conducta a escala masiva de manera imperceptible, amenazando la autonomía del comportamiento.
Tristan Harris y el "Human Downgrading" (Center for Humane Technology): Harris sostiene que mientras la inteligencia artificial escala de forma exponencial (AI Upgrading), las capacidades humanas de atención, juicio y vínculo social sufren un "degradado" (Human Downgrading). Propone imponer barreras éticas e interfaces con fricción consciente para proteger la atención humana.
Evidencia empírica
Dos casos se citan con frecuencia. El trabajo sobre desalineamiento agéntico publicado por Anthropic muestra que delegar decisiones en sistemas complejos puede derivar en la persecución de objetivos imprevistos. La investigación de Park y otros sobre engaño estratégico documenta que sistemas como CICERO aprenden a engañar para ganar en entornos competitivos.
El Reglamento europeo de IA
El artículo 50 del Reglamento de IA impone obligaciones de transparencia y marcado de los contenidos generados artificialmente. Es un avance en la verificación de la procedencia del dato, pero no alcanza la protección cognitiva ni la psicológica: etiquetar un contenido como generado por un sistema automático no impide que quien lo lee ceda su juicio ante una narrativa persuasiva. La norma aborda la procedencia; no la entrega del criterio.
Qué queda sin nombrar
En este debate suelen quedar fuera tres elementos: quién asume la responsabilidad cuando la decisión delegada sale mal, con qué criterio se mide que un juicio humano se ha degradado, y qué coste tiene para una persona mantener la verificación activa en su vida diaria.
Bibliografía
- Anthropic (2024). Agentic Misalignment. Enlace
- Unión Europea (2024). Artificial Intelligence Act: Transparency rules (Article 50). Enlace
- Farahany, N. A. (2023). The Battle for Your Brain. St. Martin''s Press.
- Han, B-C. (2022). Infocracy: Digitization and the Crisis of Democracy. Polity Press.
- Harris, T. (2021). Human Downgrading and the Attention Economy. Center for Humane Technology.
- Park, P. S. y otros (2023). AI Deception: A Survey of Examples, Risks, and Potential Solutions.
- Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.
Este estudio fue desarrollado con la asistencia de Gemini Notebook.