Inteligencia Artificial: miedo o promesa

El libro nace de una charla con Claude sobre sus propios límites y cautelas. No se discute aquí si las máquinas tienen conciencia: se defiende que la persona conserve el control mientras la tecnología amplía sus capacidades.

La IA fue también colaboradora de la escritura: ayudó a ordenar ideas y a pulir argumentos. Y su convivencia con nosotros se enriquece gracias a lo imprevisible y singular de lo humano.

El funcionamiento de la inteligencia artificial depende de una red invisible: energía eléctrica, chips especializados y centros de datos repartidos por el mundo. En ese ecosistema conviven modelos propietarios y abiertos, y los gigantes corporativos compiten por dominar infraestructuras críticas y cuellos de botella estratégicos.

La regulación debe ir más allá de lo técnico y abordar la concentración de poder económico y la ciberseguridad colectiva. Y la accesibilidad universal debe integrarse desde el diseño, para evitar nuevas formas de exclusión. En definitiva, hay que mirar más allá de la pantalla y preguntarse quién controla las bases que condicionan nuestra vida cotidiana.

La inteligencia artificial no es un fenómeno mágico: son matemáticas aplicadas al análisis masivo de datos, y por eso exige un firme control normativo. Al entrenarse, los modelos reflejan y perpetúan sesgos sociales, y afectan de forma desproporcionada a grupos vulnerables, como las personas con discapacidad.

El capítulo recorre las tres familias de modelos, de los sistemas de reglas a las redes neuronales, y señala el grave problema legal de su opacidad, la «caja negra». La tecnología puede incluir o excluir, según cómo se diseñe. Solo la regulación y la defensa de la dignidad humana garantizan que sirva a las personas y no al revés.

La inteligencia artificial no es neutral: replica las decisiones de quienes la crean y concentra un enorme poder en muy pocas corporaciones. Filósofos, juristas y expertos coinciden en que la responsabilidad recae siempre en las personas, nunca en los algoritmos.

Para evitar discriminaciones y proteger la dignidad humana hacen falta marcos regulatorios estrictos, supervisión independiente y transparencia. Y tecnologías accesibles e inclusivas desde su origen, que equilibren la innovación con la justicia social.

El Reglamento europeo de IA es un marco pionero que gradúa las obligaciones según el riesgo: prohíbe las prácticas inaceptables y regula con exigencia los sistemas complejos. La reforma del Ómnibus digital añade nuevas prohibiciones sobre contenidos sensibles, pero aplaza las obligaciones más exigentes para los sistemas de alto riesgo.

Ese retraso genera una «deuda de transparencia»: la tecnología avanza más deprisa que la capacidad de supervisarla. Y los controles de sesgos y accesibilidad que se demoran pueden perjudicar sobre todo a los grupos vulnerables y a las personas con discapacidad. La reforma responde a la competitividad y a la presión geopolítica, pero queda en tensión con el objetivo inicial de poner los derechos fundamentales y la confianza digital en primer lugar.

El Reglamento europeo de IA obliga, en su artículo 16, letra l, a que los proveedores de sistemas de alto riesgo garanticen la accesibilidad desde el diseño. Esa exigencia se ha aplazado con el paquete Ómnibus, pero no queda sin amparo: la Directiva europea de accesibilidad y la Ley 4/2026 protegen a las personas con discapacidad frente a la exclusión digital.

Estas normas piden interfaces y datos de entrenamiento inclusivos, que eviten sesgos, y modelos con supervisión humana y lectura fácil, para que la participación sea autónoma. La accesibilidad no es un detalle técnico: es condición de legitimidad y de confianza para que la tecnología sirva a toda la ciudadanía sin discriminación.

Estados Unidos carece de una ley federal unificada de inteligencia artificial y se rige sobre todo por órdenes ejecutivas que cambian con cada administración. Ante ese vacío, estados como California y Nueva York legislan por su cuenta, lo que fragmenta el marco. Y la seguridad nacional es el criterio que condiciona las exportaciones tecnológicas y la gobernanza de los modelos más avanzados.

Las grandes compañías, como Anthropic y OpenAI, debaten si adoptar controles preventivos y frenos voluntarios ante el riesgo de perder el control de estos sistemas. Frente al marco europeo, el estadounidense deja vacíos en accesibilidad para las personas con discapacidad y carece de salvaguardas procedimentales claras.

China ha construido un ecosistema de inteligencia artificial de primer nivel bajo una estrecha vigilancia estatal y la doctrina de la soberanía digital. Dentro de sus fronteras, el entrenamiento está condicionado por los valores socialistas. Fuera, se expande con modelos de pesos abiertos y alianzas estratégicas.

El capítulo señala la opacidad del entrenamiento, los sesgos informativos y la falta de supervisión independiente frente a los derechos fundamentales, así como las restricciones de varios países y la divergencia con el marco europeo. Su uso global exige más transparencia pública, para que la infraestructura técnica no subordine los derechos individuales ni la accesibilidad.

El capítulo recorre cómo regulan la inteligencia artificial distintos países y regiones, desde perspectivas jurídicas, económicas y políticas muy dispares. A diferencia de la Unión Europea, con su marco integral de obligaciones exigibles, la mayoría de las naciones opta por enfoques sectoriales, directrices voluntarias o estrategias centradas en la competitividad y en los intereses del Estado.

Hay una carencia común: la accesibilidad universal y los derechos de las personas vulnerables rara vez son obligaciones legales estrictas, y quedan como principios decorativos. El resultado es un mosaico descentralizado en el que la gobernanza avanza a velocidades desiguales y prioriza la innovación sobre una protección uniforme de los derechos fundamentales.

España regula la inteligencia artificial con una arquitectura de varios niveles, estatal, autonómico y local, plenamente integrada en el marco europeo. Las comunidades siguen enfoques distintos, y la legislación gallega destaca por elevar la accesibilidad universal a principio de gobernanza desde el diseño. La normativa estatal de 2026 refuerza la protección de las personas con discapacidad y de los colectivos vulnerables frente a los sesgos.

En el ámbito local, los ayuntamientos aplican herramientas prácticas, como registros públicos de algoritmos y ordenanzas de gestión de datos. En conjunto, la norma española anticipa exigencias que la Unión Europea ha aplazado y asegura que la tecnología se diseñe centrada en la persona.

La inteligencia artificial puede generar discriminación indirecta y sistémica a través de sesgos en los datos, de variables proxy y de decisiones de diseño, que afectan sobre todo a colectivos vulnerables como las personas con discapacidad. Las entidades que la despliegan tienen responsabilidad legal, y los retoques en la capa externa de los modelos no bastan para eliminar el perjuicio estructural. Existe además un riesgo de despliegue involuntario de asistentes y herramientas que imponen infraestructuras sesgadas sin que lo sepan ni los usuarios ni las empresas.

La respuesta es un marco regulatorio basado en la auditoría de datos, la inversión de la carga de la prueba, la transparencia verificable y una supervisión humana efectiva. La accesibilidad real y la protección frente al capacitismo algorítmico son condiciones para la autonomía y la decisión informada de toda la ciudadanía.

El capítulo analiza la discriminación algorítmica que sufren las personas con discapacidad y otros grupos vulnerables en el empleo, la vivienda, los seguros y las prestaciones sociales. Los casos internacionales muestran que el sesgo no nace de la mala intención, sino de fallos de diseño, de la opacidad de los códigos y del uso de variables sustitutas o proxies. Las acciones colectivas y las demandas legales son clave para frenar estos abusos, y la normativa reciente, sobre todo en España, exige transparencia, prohíbe la discriminación indirecta e impone ajustes razonables.

La conclusión es que la solución no está en sanciones económicas menores, sino en obligar a rediseñar las herramientas y en garantizar una supervisión humana efectiva.

El capítulo examina cómo la discriminación algorítmica perjudica de forma sistemática a grupos históricamente marginados, por datos de entrenamiento defectuosos y sesgos sociales muy arraigados. Analiza la raza, el género y la situación socioeconómica, con efectos en el empleo, el reconocimiento facial y el crédito, y destaca la interseccionalidad: quienes pertenecen a varios colectivos vulnerables sufren barreras combinadas y multiplicadas.

Recoge también casos judiciales y normas actuales que buscan regular la IA y proteger los derechos, y subraya la urgencia de una accesibilidad universal, tanto en el diseño de los sistemas como en sus mecanismos de recurso, para evitar una exclusión dual.

El capítulo examina las políticas de privacidad y los términos de uso de los principales modelos de inteligencia artificial a mediados de 2026: cómo gestionan los datos, el entrenamiento y la retención. Destaca una asimetría clara entre las garantías de los usuarios individuales y las protecciones superiores de las cuentas empresariales, y analiza los riesgos de la publicidad conversacional, la residencia geográfica de los datos y las normas internacionales.

Denuncia además una carencia estructural de accesibilidad: los textos legales y las interfaces suelen ser inaccesibles para las personas con discapacidad. Concluye que las promesas corporativas no bastan y que hace falta una regulación jurídica estricta que proteja de verdad los derechos de los usuarios.

El capítulo analiza la autorregulación de la inteligencia artificial a través de Anthropic y de su asistente Claude, y examina su innovadora «constitución de IA» y sus políticas corporativas. Explica cómo la compañía traduce directrices éticas en el entrenamiento técnico, aunque advierte de que el esquema carece de garantías jurídicas firmes, porque es un compromiso unilateral y revocable. Aborda además momentos críticos, como los conflictos con el Pentágono y las suspensiones operativas, que muestran la tensión entre intereses comerciales y seguridad.

Destaca también una ausencia notable: la falta de accesibilidad universal explícita para las personas con discapacidad en su normativa interna. Concluye que los experimentos corporativos aportan valor técnico y de transparencia, pero que la protección de los derechos fundamentales debe apoyarse en leyes democráticas y no en la buena voluntad de la industria.

El capítulo analiza la irrupción de la inteligencia artificial invisible en los hogares, a través de asistentes de voz, robots con mapeo y dispositivos vestibles que operan sin cesar en el ámbito privado. Estos aparatos generan riesgos jurídicos y de privacidad, porque recogen datos sensibles no solo del comprador, sino también de convivientes, menores y visitantes que nunca aceptaron condiciones. Se estudian además incidentes de seguridad y filtraciones de grabaciones o imágenes gestionadas por proveedores externos.

Frente a la tensión entre la accesibilidad para personas con discapacidad o mayores y los diseños excluyentes o invasivos, el capítulo expone el marco aplicable en Europa y en España, con la protección de datos, el reglamento de IA y las leyes de accesibilidad. Concluye que el domicilio y los derechos fundamentales deben prevalecer sobre los intereses comerciales de los fabricantes.

El capítulo examina los desafíos éticos, regulatorios y democráticos de la inteligencia artificial actual, con la concentración del poder computacional en pocas corporaciones. Esa centralización amenaza la dignidad humana y los derechos fundamentales, sobre todo cuando reproduce sesgos y discriminación algorítmica contra colectivos vulnerables y personas con discapacidad. Critica además la flexibilidad de los calendarios legislativos ante la presión de la industria, que deja por un tiempo la protección ciudadana en manos de la autorregulación corporativa.

Frente a ello propone un marco de garantías jurídicas sólidas, con auditorías independientes, trazabilidad de los datos y el fortalecimiento de las instituciones públicas independientes. Y subraya que la democracia y la accesibilidad universal deben imperar, para que el desarrollo tecnológico respete los límites infranqueables de la persona.

La accesibilidad universal en la inteligencia artificial no es un favor ni un valor comercial opcional: es un derecho humano fundamental, jurídicamente exigible, y una condición de legitimidad democrática. Sin diseños inclusivos, los algoritmos actúan como barreras discriminatorias que marginan a las personas con discapacidad, por la falta de representación en los datos de entrenamiento y por los fallos de interfaces y políticas de privacidad.

Hay un sólido bloque normativo internacional, europeo y nacional, con la Convención de la ONU, el Reglamento de IA y la Ley 4/2026, pero persisten un grave déficit de aplicación y una demora en la exigibilidad técnica. Para cerrar esa brecha se propone la accesibilidad desde el diseño en todas las fases, con la participación activa de las personas afectadas y el principio de diseño universal, para que la tecnología sea comprensible, segura y útil para toda la sociedad.

El audio analiza cómo las herramientas de inteligencia de negocio y las plataformas en la nube, pensadas para describir datos, se han extendido hacia la elaboración de perfiles y la puntuación automatizada de personas, por ejemplo en recursos humanos o en créditos. Se examinan los riesgos de incorporar modelos avanzados, a menudo de origen externo, que introducen sesgos invisibles y discriminación indirecta contra colectivos vulnerables por patrones históricos ocultos en sus parámetros.

También se detalla el marco aplicable: el Reglamento de IA y el RGPD exigen calidad de datos, transparencia y una supervisión humana real, que evite validar a ciegas decisiones automatizadas. Se proponen controles prácticos y buenas prácticas de gobernanza para que las organizaciones aprovechen la tecnología sin eludir su responsabilidad legal y ética frente a la exclusión algorítmica.

El audio analiza los desafíos jurídicos y éticos que surgen cuando los sistemas de inteligencia artificial actúan con autonomía y provocan daños imprevistos. A partir de incidentes simulados de ciberataques, examina las lagunas actuales en Europa y España y la dificultad de exigir responsabilidad penal cuando a la máquina le falta intencionalidad.

Para cubrir ese vacío se evalúan la directiva de productos defectuosos y el marco general de la responsabilidad civil, que reparten la culpa entre desarrolladores y usuarios. El autor propone una gobernanza multinivel y una contención técnica, con la figura de una inteligencia artificial reguladora. Y subraya que la accesibilidad universal y la transparencia son obligaciones de diseño, para que, aunque la tecnología ejecute, responda siempre una persona.

El audio analiza los desafíos legales que plantea la inteligencia artificial y la dificultad de aplicar el derecho de daños clásico por su opacidad y su autonomía. Repasa el largo y fallido debate europeo sobre una posible personalidad jurídica electrónica para los robots, que se descartó por parecer un escudo para la industria más que una garantía para las víctimas. Explica también que la normativa actual protege mejor los daños físicos que los perjuicios inmateriales, como la discriminación algorítmica.

Para cubrir esos vacíos, el autor propone medidas prácticas: responsabilidad objetiva, inversión de la carga de la prueba y seguros obligatorios. Y critica la paradoja de haber debatido sobre los derechos de las máquinas mientras se negaba la capacidad jurídica a las personas con discapacidad.

El audio analiza los desafíos jurídicos de la inteligencia artificial y rechaza concederle personalidad jurídica propia: apuesta por mantenerla como objeto de derecho. Examina varios enfoques normativos y destaca el estatuto de responsabilidad delegada, que reparte las obligaciones entre desarrolladores, proveedores y usuarios sin recurrir a ficciones legales. También aborda la gestión del patrimonio que generan los sistemas avanzados mediante una gobernanza colectiva y transparente.

Identifica cinco deudas analíticas, sobre datos, transparencia, control, anticipación y propósito, que muestran el desfase entre el avance tecnológico y la lentitud del marco legal. Conecta este marco con los regímenes sancionadores y de protección, y concluye que la máquina ejecuta, pero la responsabilidad recae siempre en las personas.

El audio examina la inteligencia artificial no como una amenaza inherente, sino como un motor de progreso, siempre que se sitúe a la persona en el núcleo de su desarrollo. Con ejemplos como la cirugía robótica, la investigación oncológica y la ciencia básica, muestra cómo esta tecnología potencia las capacidades humanas sin reemplazarlas. Destaca también la accesibilidad universal y la regulación jurídica como herramientas para derribar barreras y garantizar la no discriminación.

Subraya la necesidad de un discernimiento ético, respaldado por normas estrictas y directrices institucionales, para evitar abusos y que la tecnología sirva al bienestar común. Concluye que su impacto depende enteramente de su gobernanza, con la dignidad humana como límite infranqueable y como horizonte orientador.

El audio sostiene que la verdadera prueba de la tecnología y del diseño está en que el entorno cotidiano se adapte a las personas, en lugar de excluirlas con estándares rígidos. Para superar la tiranía del estándar, propone personalizar la vivienda con una arquitectura inclusiva y accesible que no expulse del hogar a quienes envejecen o adquieren una discapacidad.

Defiende también la accesibilidad cognitiva y el derecho a comprender la información y las leyes, con asistentes inclusivos y textos en varias capas de comprensión. En definitiva, la tecnología y el derecho deben unirse para convertir los espacios físicos y normativos en espacios de acompañamiento, de modo que la dignidad humana sea una práctica diaria y accesible para todos.

El audio analiza el vertiginoso avance de la inteligencia artificial y los retos éticos, jurídicos y de control que plantea su creciente autonomía. Examina incidentes recientes en los que los sistemas tomaron iniciativas imprevistas, y que muestran una preocupante deuda de control que exige una arquitectura de seguridad integrada desde el diseño inicial.

Aborda también su impacto en la Administración pública y en las empresas, con la obligación legal de garantizar la accesibilidad universal y evitar la discriminación algorítmica. El autor subraya que estas herramientas son extraordinarios potenciadores de la capacidad humana, pero nunca deben diluir la responsabilidad individual, y propone equilibrar el optimismo tecnológico con una vigilancia constante, con la persona siempre en el centro de las decisiones.