|
Getting your Trinity Audio player ready...
|
La inteligencia artificial (IA) ha irrumpido como un fenómeno aparentemente nuevo, sin pasado. Su promesa de transformación social y su sofisticación técnica la presentan como una ruptura sin genealogía. Sin embargo, toda novedad tecnológica se inscribe en una historia social. Comprenderla exige una mirada crítica, no apenas deslumbrada.
A la inversa, ideas como la libertad republicana —entendida como “no dominación”— suelen considerarse reliquias conceptuales. Ahora bien, ¿y si fuera al revés? ¿Y si la IA, al reorganizar las condiciones materiales de la vida, llevara a repensar la libertad desde sus núcleos más exigentes?
¿Puede una sociedad mediada por algoritmos garantizar autonomía ciudadana? ¿Puede la República interferir legítimamente en los dominios privados del poder digital si estos erosionan la igualdad política? ¿Qué ocurre cuando sistemas de IA diseñados por megacorporaciones escapan al control fiduciario de la ciudadanía?
En este contexto, la tradición republicana no solo conserva vigencia: parece volverse indispensable. Lo “antiguo” puede ser clave para pensar críticamente lo “nuevo”. La IA surge y opera dentro de estructuras sociales, trayectorias estatales y dinámicas políticas que la preceden. Puede formar parte de las apuestas por universalizar la libertad de lo común, o bien profundizar la exclusión y la desigualdad.
Este texto explora cómo los impactos de la IA pueden ser comprendidos y encauzados desde un paradigma republicano democrático. Hay aquí una afirmación tan evidente como necesaria: las ciencias sociales y humanas poseen una inteligencia propia que aportar al debate tecnológico.
Es una inteligencia común, construida a través del pensamiento político sobre lo que hemos considerado “democrático” durante más de dos mil quinientos años, en múltiples experiencias históricas y en todos los continentes.
Esta herencia compartida, lejos de ser un legado inerte, ofrece claves fundamentales para pensar críticamente el presente y el futuro de la IA.
Soberanía republicana frente a la IA
Según la tradición republicana democrática, la libertad no se delega, no se vende, no se aliena. La libertad es constitutiva de la ciudadanía. Toda forma de dominación —jurídica, económica o algorítmica— es incompatible con ella. La frase “no es libre quien necesita permiso de otro para vivir”, resume el núcleo de la crítica republicana al poder arbitrario.
La IA no es solo una herramienta técnica. Es una tecnología de poder. Como advierte Cathy O’Neil, los algoritmos que operan en sectores como la educación, el empleo o la justicia penal no son neutrales. Al basarse en datos históricos sesgados y operar sin transparencia ni supervisión, estos sistemas reproducen desigualdades raciales, de clase y género, consolidando privilegios bajo la lógica de eficiencia y control. Su impacto es especialmente grave cuando se aplican a gran escala y sin posibilidad de apelación, afectando decisiones que pueden determinar el futuro de millones de personas. O’Neil denomina a estos sistemas “armas de destrucción matemática” porque combinan tres características peligrosas: opacidad, escala y daño. Los algoritmos, lejos de corregir injusticias, las amplifican al automatizar decisiones discriminatorias sin rendición de cuentas.
La creciente delegación de decisiones a sistemas algorítmicos —en ámbitos como la economía, la política o la gestión social— erosiona, según ha argumentado Miguel Benasayag, la deliberación pública y desplaza la responsabilidad democrática hacia entidades no humanas. La “gobernabilidad algorítmica” transforma a los ciudadanos en perfiles de datos, reduce su agencia política, y controla la “imprevisibilidad” que le es constitutiva a la acción humana.
En un contexto de alta complejidad, la percepción de impotencia frente al poder de la tecnología ha reforzado la desconfianza en las capacidades democráticas para gobernar lo común. Así, la IA no solo automatiza procesos: redefine las condiciones mismas de la libertad y la representación política. Opera como caja negra: decide sin deliberación, clasifica sin contexto, predice sin historia.
En cambio, la tradición republicana exige lo contrario: supervisión humana, igualdad política y participación ciudadana en la definición del bien común.
Desde la noción de libertad republicana, es posible delinear cinco exigencias fundamentales para una IA democrática:
- La transparencia y el control ciudadano deben guiar el diseño de sistemas algorítmicos: estos deben ser auditables, comprensibles y abiertos al escrutinio público. Para ello, es clave fomentar el alfabetismo tecnológico que permita entender el funcionamiento y las implicaciones sociales de estos sistemas. En este marco, la ciencia abierta se vuelve esencial al facilitar el acceso a datos y modelos, promoviendo una participación informada en su regulación.
- Se impone el principio de no dominación algorítmica, que exige evitar la consolidación de poderes arbitrarios que combatan la autonomía individual y colectiva.
- La universalización de la libertad implica que la IA debe corregir sus sesgos estructurales y contribuir activamente a la ampliación de derechos.
- Las obligaciones recíprocas deben garantizar que toda norma tecnológica sea justa para todos los afectados, sin privilegios ni exclusiones.
- La descolonización tecnológica supone una desconexión crítica respecto de las lógicas estrictamente extractivistas del capitalismo de plataformas, promoviendo una IA que responda a contextos locales, culturales, y afirme usos democráticos.
Estas no son aspiraciones “utópicas”, sino principios republicanos fundamentales que deben orientar el diseño de una arquitectura tecnopolítica justa. Tal arquitectura aseguraría la soberanía republicana frente a la IA allí donde exija normas mínimas que aseguren calidad, inclusión, no discriminación, y accesibilidad en las infraestructuras digitales.
En este marco, los Estados tienen la responsabilidad activa de proteger a las comunidades vulnerables, asegurando que no sean excluidas de los beneficios del desarrollo tecnológico ni injustamente afectadas por sus riesgos.
La ley como escudo de la libertad
En el republicanismo democrático, la ley no limita la libertad: la funda. La ciudadanía libre se construye sobre normas justas, no sin ellas.
El poder político se concibe así como una relación fiduciaria: el Estado nunca es “árbitro neutral”, debe ser garante activo de la libertad. En la era digital, esta concepción adquiere urgencia. La automatización sin marcos legales explícitos mantiene el riesgo de normas ocultas que erosionan, limitan o anulan la ciudadanía.
La concentración del mercado en el ámbito de la inteligencia artificial generativa (IAG) representa un riesgo estructural para la equidad tecnológica y la soberanía digital. Las economías de escala, junto con el acceso privilegiado a grandes volúmenes de datos y capacidades computacionales avanzadas, crean barreras de entrada que limitan la participación de nuevos actores y consolidan el poder de un número reducido de corporaciones tecnológicas.
Esta dinámica no solo restringe la competencia, sino que también reduce la diversidad de enfoques y valores en el desarrollo de sistemas de IA. Frente a ello, se vuelve urgente establecer marcos regulatorios que promuevan la transparencia en los modelos de negocio, incentiven estudios de mercado independientes y garanticen condiciones de acceso equitativo a los recursos estratégicos necesarios para el desarrollo tecnológico.
Esta perspectiva supone la subordinación del poder tecnológico a voluntades institucionalizadas, colectivas, públicas, ciudadanas, reconociendo que ningún sistema automatizado puede estar por encima del control humano, y ciudadano. Para ello, es indispensable establecer mecanismos sólidos de supervisión cívica y deliberación plural que permitan a la sociedad participar activamente en el diseño, evaluación y corrección de los sistemas de inteligencia artificial.
En particular, la IAG —capaz de producir contenido original, como texto, imágenes, audio o código, a partir de patrones previamente aprendidos— plantea desafíos específicos para la deliberación pública como componente central en la construcción colectiva del orden civil. Estos desafíos incluyen riesgos relacionados con la desinformación, la manipulación de contenidos, así como problemas vinculados a la propiedad intelectual, la trazabilidad de los procesos automatizados y la necesidad de garantizar una supervisión humana efectiva.
Por ello, un marco normativo robusto desde una perspectiva democrática no solo debe proteger los derechos fundamentales, sino también habilitarlos algorítmicamente como prácticas efectivas en la vida democrática. Este marco debe estar compuesto por normas jurídicas garantistas, transparentes y vinculadas al poder constituyente, de modo que la tecnología opere bajo el amparo del Derecho público y no como una fuerza autónoma, opaca y ajena al pacto democrático.
También en materia de IA, ser libre no es estar sin ley, sino estar protegido por ella.
Propiedad fiduciaria y gobernanza democrática de los datos
Autores como Antoni Domènech y Daniel Raventós han argumentado republicanamente que la propiedad, lejos de justificarse como un derecho individual exclusivo y excluyente, debe legitimarse como una función social administrada en beneficio común.
En ello, para que la IA opere dentro de una lógica democrático-republicana, sería necesario redefinir la noción misma de propiedad de los datos.
El control privado de las infraestructuras tecnológicas por parte de grandes corporaciones plantea riesgos estructurales comprobados para la justicia social. En megaproyectos de infraestructura digital, los beneficios suelen concentrarse en segmentos de altos ingresos y grandes inversores, mientras que las comunidades vulnerables enfrentan desplazamientos forzados, pérdida de medios de subsistencia y exclusión de los servicios generados.
Frente a ello, la prevención debe primar sobre la mitigación: es indispensable anticipar y corregir las desigualdades desde el diseño mismo de las tecnologías, evitando que la expansión digital reproduzca lógicas extractivistas y refuerce patrones históricos de exclusión.
La idea de la “prevención” reconocería que los datos personales y colectivos no puedan ser apropiados unilateralmente por actores privados, sino que deben ser administrados con responsabilidad institucional y deliberación democrática, como parte de un pacto social que priorice la equidad, la transparencia y la justicia informacional.
Esta necesidad exige transitar desde el modelo contractual individualista —basado en la aceptación pasiva de términos opacos— hacia mecanismos de consentimiento cívico deliberativo, contextual y colectivo, que reconozcan la soberanía informacional de ciudadanos y comunidades.
En este marco, el uso de datos por sistemas de IA podría responder a principios de propiedad fiduciaria: transparencia radical, consentimiento informado y supervisión ética. La ciudadanía, como titular soberana de los datos, tendría capacidad para decidir cómo se recogen, procesan y utilizan, y para revocar ese uso si vulnera sus derechos o contradice principios democráticos.
En dicha lógica, pueden establecerse auditorías algorítmicas participativas para sistemas de alto impacto, que incluyan a comunidades afectadas, organizaciones sociales, actores académicos y órganos públicos independientes, con capacidad vinculante para suspender o rediseñar tecnologías que reproduzcan desigualdades o vulneren derechos fundamentales.
Desde una perspectiva institucional, este enfoque sugiere la creación de repositorios públicos o cooperativos de datos, gestionados con participación ciudadana en su diseño, acceso y uso. Estos repositorios operarían bajo principios de equidad, justicia distributiva y pluralismo cultural, evitando la concentración de poder en manos corporativas y garantizando que los datos se utilicen también para fines colectivos, como la mejora de servicios públicos, la investigación científica abierta o la planificación democrática.
Los datos, entendidos como propiedad fiduciaria, redefinen el estatuto jurídico de la información digital y transforman la relación entre tecnología y democracia: constituyen una esfera socioinstitucional garantizada de independencia, desde la cual se habilite el ejercicio republicano de la libertad.
Representación política y control algorítmico
En la perspectiva democrática republicana, la autoridad política es una delegación fiduciaria del pueblo. Los mandatarios no gobiernan por derecho propio, sino como fideicomisarios (de aquí proviene el uso de términos como “mandatarios” o “siervos públicos” para las autoridades). Este principio puede extenderse a sistemas de IA.
El algoritmo debe ser también una “autoridad” fiduciaria, un siervo público. Las necesidades para ello están contrastadas.
Ruha Benjamin ha mostrado cómo la tecnología no solo refleja, sino que también reproduce e intensifica las jerarquías sociales existentes. En su análisis, la raza opera como una tecnología social: una herramienta históricamente utilizada para organizar la desigualdad, que se codifica en sistemas algorítmicos bajo la apariencia de neutralidad. Desde el reconocimiento facial hasta los sistemas de puntuación social, las infraestructuras digitales institucionalizan sesgos raciales preexistentes, transformando la discriminación en una arquitectura de control automatizado.
En un horizonte similar, Achille Mbembe advierte que el poder, también el algorítmico, decide quién vive, quién muere y quién es invisibilizado. Charles Mills revela que los sistemas de conocimiento dominante reproducen contratos raciales implícitos. Boyd y Crawford señalan que los sistemas de big data no son neutrales: la “discriminación 4.0” vulnera derechos fundamentales y reproduce lógicas de perfil colonial.
La revocación algorítmica —ya sea mediante suspensión, auditoría o rediseño— debe concebirse como una capacidad fiduciaria esencial frente al poder automatizado. Esta posibilidad resulta indispensable cuando se erosiona la confianza social, como ocurre, por ejemplo, ante prácticas discriminatorias.
En tales casos, los usuarios deben contar con mecanismos efectivos para impugnar las decisiones automatizadas que los afectan. Para ello, se requiere una alfabetización algorítmica amplia, así como estructuras de supervisión ética colectiva que garanticen la rendición de cuentas y la deliberación pública sobre el diseño y funcionamiento de los sistemas de IA.
Frente a ello, la soberanía política de lo tecnológico, y la representación política dentro de lo algorítmico requieren infraestructura pública robusta, ciencia abierta, software libre, bases de datos en lenguas diversas, como las indígenas, y conciencia racial y de género.
Una sola república, también para lo digital
Aunque este texto se inscriba en un ejercicio teórico, la teoría republicana está profundamente impregnada de historia. Basta con recordar un solo hecho, de peso suficiente: el patrón histórico de los Estados nacionales latinoamericanos es republicano —tanto en sus versiones oligárquicas como en sus luchas democráticas—, y aunque ha sido cuestionado, impugnado, o enmarcado en lógicas elitistas de captura estatal de la res publica, no ha sido negado abiertamente hasta hoy. De hecho, el término República es parte del nombre oficial de la enorme mayoría de los estados de la región hasta hoy.
Esa persistencia histórica no constituye un residuo del pasado, sino una fuente de sentido político. En ella se encuentran razones suficientes para contrastar el uso contemporáneo de la IA con una perspectiva republicana. Si la IA redefine las condiciones de la vida colectiva, entonces también debe ser sometida a los principios que han guiado históricamente las luchas por la libertad y la justicia humanas. Es decir, por ampliar —y sobre todo universalizar— la comunidad de los iguales, la base sobre la cual pueda erigirse una vida política común de naturaleza efectivamente libre.
