Filosofía política de la inteligencia artificial: fundamentos y debates actuales

La inteligencia artificial (IA) ya no es un concepto de ciencia ficción, sino una fuerza transformadora que moldea nuestra economía, sociedad y, crucialmente, nuestra política. Desde cómo se libran las guerras hasta cómo votamos o accedemos a servicios públicos, la IA introduce nuevas dinámicas de poder, control y justicia. Entender estos cambios requiere ir más allá de la tecnología y adentrarse en la filosofía política de la inteligencia artificial, un campo emergente pero fundamental para navegar hacia el futuro. Si bien hace unas semanas publicábamos una entrada en el Blog de Estrategos sobre la Inteligencia Artificial en las campañas electorales, en las próximas líneas que vas a leer nos centramos en aspectos más teóricos y filosóficos. Este artículo explora sus conceptos clave, debates éticos, impactos políticos y los marcos teóricos necesarios para comprender esta nueva era, prestando especial atención al contexto español dentro del marco europeo y global.

¿Qué es la filosofía política de la inteligencia artificial?

Definición y alcance del concepto

La filosofía política de la inteligencia artificial es un campo interdisciplinario que examina cómo el diseño, desarrollo, despliegue y gobernanza de la IA afectan y son afectados por conceptos políticos fundamentales como el poder, la autoridad, la legitimidad, la justicia, los derechos, la democracia y la soberanía.
No se limita a la ética (aunque la incluye), sino que se enfoca en las estructuras de poder que la IA crea, refuerza o desafía. Su alcance abarca desde:

1. El diseño algorítmico: ¿Qué valores políticos se incorporan (intencionadamente o no) en los algoritmos? Un ejemplo global son los sesgos en algoritmos de reconocimiento facial que afectan desproporcionadamente a minorías raciales y mujeres, un riesgo que en España, la Agencia Española de Protección de Datos (AEPD) vigila activamente. España, en su Estrategia Nacional de IA (ENIA) (2020), subraya la necesidad de una IA «humanística» que respete los valores constitucionales.
2. La toma de decisiones automatizada: ¿Cómo afecta la delegación de decisiones a máquinas la rendición de cuentas y la legitimidad democrática? A nivel internacional, esto incluye sistemas de puntuación crediticia o de elegibilidad para ayudas sociales, como el controvertido software COMPAS en EE.UU. (Fuente: ProPublica). En España, ha habido debate público sobre la transparencia y equidad de algoritmos usados para asignar el Bono Social térmico o gestionar solicitudes del Ingreso Mínimo Vital (IMV), ilustrando la necesidad de supervisión política.
3. La vigilancia y el control: ¿Cómo transforman las capacidades de la IA (reconocimiento facial, análisis predictivo) la relación entre el Estado y el ciudadano? El sistema de crédito social en China es el ejemplo más citado a nivel mundial. En España, el uso de tecnologías de vigilancia en espacios públicos (ej. smart cities como Valencia o Málaga) o la experimentación con reconocimiento facial (como el caso de Mercadona, sancionado por la AEPD en 2021) plantean debates políticos sobre privacidad y libertades dentro del marco europeo de protección de datos.
4. La geopolítica de la IA: ¿Cómo compiten los Estados (principalmente EE.UU., China y la UE) por la supremacía en IA y qué implicaciones tiene esto para el orden internacional? Se estima que el mercado global de IA alcanzará los 1.8 billones de dólares para 2030, según el portal especializado Statista, subrayando su importancia estratégica. España se alinea con la UE buscando una «tercera vía» centrada en la ética y los derechos y participa en proyectos europeos como GAIA-X para crear infraestructuras de datos soberanas. La ENIA española destina fondos significativos (más de 600 millones de euros iniciales) para impulsar la IA nacional dentro de este marco europeo.
5. El futuro del trabajo y la economía política: ¿Cómo afectará la automatización masiva a la distribución de la riqueza, la necesidad de renta básica universal y la estabilidad política? Según un informe de McKinsey (2017, aunque las estimaciones varían), hasta 800 millones de trabajadores a nivel mundial podrían ser desplazados para 2030. España, con sectores clave como el turismo y la automoción susceptibles a la automatización, deberá hacer frente a estos debates. El Plan de Recuperación, Transformación y Resiliencia español, financiado por fondos NextGenerationEU, incluye inversiones en digitalización y IA, buscando gestionar esta transición. Un ejemplo de ello es el Kit Digital, que ha permitido a millones de autónomos invertir 2.000 y 3.000 euros, si se solicitaba la ayuda para un portátil, en digitalizar los pequeños negocios.

La importancia de abordar la IA desde la filosofía política

La inteligencia artificial (IA) ha trascendido su rol como mera herramienta tecnológica para erigirse en un fenómeno con profundas implicaciones para la estructura misma de nuestras sociedades. Abordar su desarrollo y despliegue exclusivamente desde una perspectiva técnica o económica resulta peligrosamente limitado, ya que obvia las cuestiones fundamentales sobre el poder, la justicia, la autonomía y la propia naturaleza humana que la IA plantea. La filosofía política, con su tradición de análisis crítico de las relaciones de poder y la organización social, se torna indispensable para navegar este nuevo panorama.

Como argumenta Nick Bostrom en Superinteligencia, la creación de una IA general superinteligente podría acarrear riesgos existenciales para la humanidad, una posibilidad que exige una reflexión filosófica profunda sobre nuestros valores y cómo queremos configurar nuestro futuro compartido con estas entidades emergentes.

En España, el debate sobre la regulación de la IA ya ha comenzado, con iniciativas como la «Carta de Derechos Digitales», que aunque incipiente, reconoce la necesidad de un marco ético y legal para su desarrollo, evidenciando una creciente conciencia de la dimensión política de esta tecnología.

En este enlace puedes ampliar conocimientos sobre la IA en política.

La filosofía política puede ofrecer marcos conceptuales cruciales para analizar los dilemas éticos y sociales que la IA introduce. Por ejemplo, las teorías de la justicia distributiva, como las de John Rawls, pueden ayudarnos a reflexionar sobre cómo garantizar que los beneficios de la IA se distribuyan equitativamente y no exacerben las desigualdades existentes.

La creciente automatización impulsada por la IA plantea interrogantes sobre el futuro del trabajo y la necesidad de repensar los modelos económicos y los sistemas de bienestar social. En España, la discusión sobre una posible renta básica universal, aunque no directamente ligada a la IA, refleja una preocupación por las consecuencias de la automatización en el empleo, un debate que se enriquecerá con el análisis filosófico sobre la dignidad del trabajo y la justicia social en una era de creciente capacidad de las máquinas.

Asimismo, las reflexiones filosóficas sobre la autonomía individual son esenciales para evaluar el impacto de los sistemas de IA en la toma de decisiones y la capacidad de los ciudadanos para ejercer su libertad y control sobre sus vidas.

Finalmente, la filosofía política nos obliga a considerar las implicaciones a largo plazo de la IA para la democracia y la gobernanza. La proliferación de la desinformación generada por IA, los sesgos algorítmicos en la toma de decisiones públicas y la potencial concentración de poder en manos de quienes controlan estas tecnologías son desafíos que requieren un análisis político riguroso. Como señala Shoshana Zuboff en La era del capitalismo de la vigilancia, la recopilación masiva de datos y la manipulación conductual a través de plataformas digitales impulsadas por IA erosionan la privacidad y la autonomía individual, planteando serias amenazas a los principios democráticos.

En España, el debate sobre la transparencia algorítmica y la rendición de cuentas de las grandes plataformas tecnológicas, impulsado por la sociedad civil y algunas iniciativas políticas, subraya la necesidad de aplicar principios filosófico-políticos para garantizar que la IA sirva al bien común y fortalezca, en lugar de debilitar, los valores democráticos.

La integración de la filosofía política en el debate sobre la IA no es un lujo académico, sino una necesidad apremiante para construir un futuro digital justo, equitativo y respetuoso con la dignidad humana.

Ética de la inteligencia artificial: debates clave

Principales enfoques éticos sobre IA

La ética de la IA busca establecer principios para el desarrollo responsable. Los enfoques principales incluyen:

1. Ética basada en principios (Principled AI): El enfoque dominante globalmente. Organizaciones como la Comisión Europea («Directrices éticas para una IA fiable», 2019), y países como EE.UU. (NIST AI Risk Management Framework), Singapur y Japón han propuesto principios. España ha adoptado los principios de la UE en su Estrategia Nacional de Inteligencia Artificial (ENIA) y los ha reflejado en su Carta de Derechos Digitales. Iniciativas como OdiseIA en España promueven su discusión.
2. Ética de las virtudes aplicada a la IA.
3. Consecuencialismo (Utilitarismo): Relevante en debates sobre vehículos autónomos (el «dilema del tranvía»).
4. Deontología (Ética del deber): Crucial para establecer «líneas rojas» (ej., prohibición de ciertos sistemas de vigilancia masiva). La Agencia Española de Protección de Datos (AEPD) en España aplica este enfoque.
5. Ética del cuidado (Care Ethics): Relevante en España para IA en sanidad o atención a la dependencia.

Mark Coeckelbergh y su contribución a la ética de la IA

Mark Coeckelbergh es un influyente filósofo de la tecnología belga, actualmente profesor en la Universidad de Viena, cuyo trabajo ha enriquecido significativamente el debate sobre la ética de la IA.
Si bien reconoce la utilidad práctica de los marcos éticos basados en principios (como los promovidos por la UE, y adoptados en España a través de la ENIA), Coeckelbergh advierte contra una «ética de checklist». Argumenta que reducir la ética a una simple lista de verificación de principios puede trivializar los profundos desafíos morales y existenciales que plantea la IA.

Su enfoque busca ir más allá, instando a una reflexión filosófica más honda sobre cómo la IA transforma nuestra comprensión del ser humano, nuestras relaciones sociales y nuestra propia autoimagen.
Propone usar herramientas de la fenomenología y la hermenéutica para explorar cómo experimentamos e interpretamos la IA y los robots en nuestra vida cotidiana, argumentando que esta comprensión experiencial es crucial para una ética verdaderamente significativa.

Una de las contribuciones más destacadas de Coeckelbergh es su énfasis en la vulnerabilidad y la exposición como conceptos éticos centrales en la era de la IA.
Sostiene que las tecnologías digitales y la IA no solo nos empoderan, sino que también nos hacen más vulnerables: a la vigilancia, a la manipulación algorítmica, a errores de sistemas opacos, a la pérdida de autonomía y a la exclusión social.

Desde esta perspectiva, la ética de la IA no debe centrarse únicamente en la prevención de daños específicos (aunque eso sea importante), sino en cómo gestionamos colectivamente esta nueva condición de exposición aumentada.
Esto implica un enfoque ético más relacional y social, que considere cómo la IA reconfigura las relaciones de poder y las interdependencias, prestando especial atención a los grupos ya marginados que pueden ser desproporcionadamente afectados.

Su trabajo, por tanto, conecta directamente la ética tecnológica con cuestiones de justicia social y filosofía política, proporcionando un marco más rico para evaluar el impacto real de la IA en la sociedad, un debate muy presente en foros académicos y de políticas públicas en España y Europa.

¿Qué es la ética de los robots y cómo se relaciona con la filosofía política?

La ética de los robots (Roboethics) se ocupa de las cuestiones morales de los robots (estatus moral, programación ética, responsabilidad, interacción humano-robot).

Relación con la filosofía política (con ejemplos globales y españoles):

1. Derechos y ciudadanía: Debate global sobre estatus legal de robots avanzados (el Parlamento Europeo ya lo debatió en 2017).
2. Trabajo y economía política: La automatización robótica impacta globalmente. En España, afecta a industrias como la automoción (Vigo, Martorell) y logística, impulsando debates sobre empleo.
3. Guerra y seguridad: El desarrollo de Sistemas de Armas Autónomas Letales (LAWS) es un tema central globalmente. Países como EE.UU., Rusia y China invierten fuertemente, mientras ONGs (Campaña Stop Killer Robots) y algunos países abogan por prohibición. España participa en los debates de la ONU, abogando por control humano significativo, y su Ministerio de Defensa investiga IA con marcos éticos.
4. Justicia y aplicación de la ley: Uso de robots en vigilancia (drones) o policía (robots de patrulla vistos en Singapur o EE.UU.). En España, el uso de drones por Policía Nacional y Guardia Civil genera debates sobre privacidad.

Impacto político de la inteligencia artificial

¿Por qué la IA debilita la democracia y qué hacer al respecto?

La IA puede debilitar la democracia por:

• Desinformación (Deepfakes, microtargeting – Cambridge Analytica)
• Vigilancia (Sistema de crédito social chino, uso de Clearview AI en EE.UU.)
• Opacidad algorítmica
• Refuerzo de desigualdades
• Concentración de poder (Big Tech USA/China)

Ejemplos en España:

• Desinformación: Campañas detectadas por el Departamento de Seguridad Nacional (DSN) y verificadores (Maldita.es, Newtral).
• Vigilancia: Sanción de la AEPD a Mercadona, debate sobre cámaras IA en ciudades.
• Opacidad: Dificultades con algoritmos del Bono Social.

¿Qué hacer al respecto? (con acciones globales y españolas):

• Regulación: Implementar leyes como el EU AI Act. Otros países (Canadá, Brasil) desarrollan legislaciones. España se adelanta con AESIA y lanzó el primer sandbox regulatorio de IA de la UE. Reino Unido y Singapur también usan sandboxes. El National Institute of Standards and Technology (NIST) en EE.UU. ofrece un marco de gestión de riesgos.
• Transparencia y explicabilidad: Exigencia creciente a nivel global. La Carta de Derechos Digitales española lo menciona.
• Alfabetización digital y mediática: Esfuerzos educativos en muchos países, incluyendo programas del Ministerio de Educación e INCIBE en España.
• Auditorías de algoritmos: La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) tendrá un papel. Iniciativas como Eticas Foundation (España) o AlgorithmWatch (Alemania) trabajan en ello.
• Gobernanza democrática de datos: Exploración de modelos como fideicomisos de datos (data trusts).
• Fomentar la IA cívica y de código abierto: Apoyo a alternativas a sistemas propietarios dominantes. La ENIA española tiene este enfoque.

Gobernanza de la IA: desafíos y propuestas

La gobernanza de la IA, entendida como el conjunto de normas, instituciones y procesos para dirigir su desarrollo y uso de forma responsable, enfrenta desafíos monumentales debido a la naturaleza misma de la tecnología.

• El «Pacing problem» (desfase entre velocidad del desarrollo tecnológico y capacidad reguladora) es uno de los más citados.
• La globalización de la IA: datos transfronterizos, empresas multinacionales, impactos globales.
• Fragmentación regulatoria:
  • La UE apuesta por un enfoque horizontal basado en derechos y riesgos (AI Act).
  • EE.UU. prefiere un enfoque sectorial y pro-innovación, con marcos voluntarios como el del NIST.
  • China adopta control estatal alineado con sus objetivos nacionales.

Esto crea incertidumbre, dificulta la cooperación internacional y plantea riesgos como una «carrera hacia el abismo» regulatorio o la imposición de facto de los estándares más estrictos (efecto Bruselas).

Frente a estos desafíos, se proponen soluciones combinadas:

1. Marcos regulatorios flexibles: Como el EU AI Act. Sandboxes (Reino Unido, Singapur, España). AESIA busca agilidad.
2. Cooperación internacional: Foros como OCDE (AI Policy Observatory), G7/G20, ONU (UNESCO, Órgano Consultivo IA), GPAI. España participa activamente y busca puentes con Latinoamérica.
3. Gobernanza multi-actor: Involucrar gobiernos, industria, academia, sociedad civil (promovido en España a través de foros y consultas de la ENIA).
4. Estándares técnicos y éticos: Desarrollados por ISO/IEC, IEEE. UNE participa desde España.
5. Órganos de supervisión especializados: Creación de agencias. España es pionera en la UE con AESIA.

La IA como herramienta política: riesgos y oportunidades

Riesgos (con ejemplos globales y españoles):

• Vigilancia estatal mejorada:
  • China (crédito social, reconocimiento facial masivo).
  • Rusia (vigilancia facial en Moscú).
  • En España: uso limitado por RGPD, pero requiere supervisión (AEPD).
• Armas autónomas (LAWS):
  • EE.UU., Rusia, China invierten.
  • España pide regulación.
• Manipulación electoral sofisticada:
  • Microtargeting, deepfakes, bots.
  • Acusaciones de interferencia rusa (EE.UU., otros países).
  • Riesgo monitorizado en España.
• Control de fronteras y migración:
  • Uso de IA en Australia, EE.UU.
  • En España: tecnología en fronteras (Ceuta, Melilla, Canarias) con debates sobre derechos.
• «Autoritarismo digital»:
  • Exportación de tecnologías de vigilancia por China.
  • España se opone.

Oportunidades (con ejemplos globales y españoles):

• Mejora de servicios públicos:
  • Estonia (e-gobierno).
  • España: Agencia Tributaria, pilotos en Salud, Smart Cities, Justicia 2030.
• Análisis de políticas públicas:
  • Uso creciente global.
  • En España: INE y ministerios exploran IA para análisis.
• Participación ciudadana:
  • Plataformas como Decide Madrid, Decidim Barcelona.
  • Potencial de integración con IA.
• Lucha contra la corrupción:
  • Brasil usa IA para auditar gastos.
  • Potencial en España (OIReScon).
• Respuesta a desastres:
  • Uso global de IA.
  • En España: la UME utiliza drones y análisis de imágenes con IA.

Recursos sobre filosofía política de la IA

Libros fundamentales sobre el tema

• The Age of Surveillance Capitalism – Shoshana Zuboff (2019)
• Weapons of Math Destruction – Cathy O’Neil (2016)
• AI Ethics – Mark Coeckelbergh (2020)
• The Alignment Problem – Brian Christian (2020)
• Automating Inequality – Virginia Eubanks (2018)
• Power and Progress – Daron Acemoglu y Simon Johnson (2023)
• The Politics of Artificial Intelligence (editado, online)
• (Añadidos españoles) Ciberleviatán – José María Lassalle (2019)
• (Añadidos españoles) El algoritmo y la esfinge – editado por José María Lassalle (2021)

Autores clave y sus obras principales

• Shoshana Zuboff (The Age of Surveillance Capitalism)
• Kate Crawford (Atlas of AI)
• Cathy O’Neil (Weapons of Math Destruction)
• Luciano Floridi (The Fourth Revolution)
• Mark Coeckelbergh (AI Ethics)
• Wendell Wallach & Colin Allen (Moral Machines)
• Virginia Eubanks (Automating Inequality)
• Nick Bostrom (Superintelligence)
• Daron Acemoglu (Power and Progress)
• (Añadidos españoles) José María Lassalle (Ciberleviatán)
• (Añadidos españoles) Lorena Jaume-Palasí (The Ethical Tech Society)
• (Añadidos españoles) Ramón López de Mántaras (IIIA-CSIC)
• (Mención española) Investigadores de universidades españolas, BCAM, BSC, OdiseIA.

---

Marcos teóricos para entender la IA en sociedad

Teorías políticas aplicadas a la inteligencia artificial

Aplicar teorías clásicas al contexto español, manteniendo su base universal:

• Liberalismo: Derechos individuales vs IA (debate global reflejado en España con la Carta de Derechos Digitales, AEPD).
• Republicanismo: Libertad como no-dominación vs poder algorítmico (preocupación global relevante en España – soberanía digital).
• Marxismo / Teoría Crítica: IA, capitalismo, trabajo (plataformas digitales – Ley Rider en España).
• Feminismo: Sesgos de género en IA (iniciativas como Women in AI en España, ENIA incluye eje de igualdad).
• Post-estructuralismo (Foucault): IA como poder/conocimiento (vigilancia, clasificación – relevante para administraciones públicas y smart cities en España).
• Teoría del Actor-Red (ANT): IA como actor en redes socio-técnicas.

El contrato social en la era de los algoritmos

La IA desafía el contrato social globalmente:

• Consentimiento erosionado
• Asimetría de poder
• Nuevas formas de protección/orden

En España:

• La Carta de Derechos Digitales como intento de “nuevo contrato”.
• Casos como el Bono Social o el IMV muestran tensiones entre el Estado y el ciudadano por la opacidad algorítmica.
• Debates sobre el uso de datos de salud para IA.

Poder, control y justicia en los sistemas automatizados

Conceptos centrales a nivel global, con manifestaciones locales:

1. Poder:
   • Concentración: Big Tech global, con presencia en España.
   • Poder algorítmico: Influencia tanto global como local.
   • Poder infraestructural: Dependencia tecnológica.
     → AESIA como contrapoder regulatorio en España.
2. Control:
   • Control social: Vigilancia global/local.
   • Pérdida de control humano: Dilema global.
   • Control sobre la tecnología: Gobernanza global, europea y española.
     → AEPD como garante del control de datos en España.
3. Justicia:
   • Distributiva: Distribución de beneficios/cargas de la IA (debate global y español – Plan de Recuperación).
   • Procedimental: Equidad en procesos algorítmicos.
     Casos como COMPAS (EE.UU.) o Bono Social/IMV (España) muestran problemas.
     → Necesidad de auditorías y explicabilidad.
   • Epistémica: Inclusión de voces marginadas en el diseño de IA (desafío global también relevante en colectivos específicos en España).

Entender y abordar estas dinámicas de poder, control y justicia, con sus manifestaciones específicas en España dentro de un contexto internacional, es el núcleo del desafío que la filosofía política enfrenta en la era de la inteligencia artificial.