Derecho y sociedad

21.1Derechos de autor y propiedad intelectual

Esquema21.1. Los dos frentes de los derechos de autor. La justicia estadounidense tiende a considerar el entrenamiento como un uso «transformador», pero la cuestión de si los contenidos producidos reproducen ilegalmente obras, y quién responde de ello, sigue sin resolverse.

Bajo el capó

En 2025-2026, varios jueces estadounidenses estimaron que el entrenamiento de un modelo podía constituir fair use (uso justo), comparando el aprendizaje de una IA con el de un lector humano. Pero la cuestión de las obras pirateadas sigue pesando: un gran laboratorio aceptó pagar alrededor de 1500 millones de dólares para zanjar demandas vinculadas a la descarga ilegal de millones de libros. Hay varias acciones en curso (editoriales contra Meta, una docena de casos agrupados contra OpenAI). En el terreno de la imagen, grandes estudios de cine (entre ellos Disney y Universal) demandan a un generador de imágenes, mientras que otros actores firman acuerdos de licencia: la aparición de un mercado de licencias complica la defensa del fair use. Por último, sobre la protección de las obras producidas por una IA, el Tribunal Supremo de Estados Unidos, en marzo de 2026, se negó a examinar el caso emblemático en la materia (el caso Thaler): deja así en vigor la decisión dictada en 2025 por un tribunal federal de apelación, según la cual una obra generada por una máquina sin contribución creativa humana no es protegible.

21.2Deepfakes, desinformación y democracia

En contexto

La persuasión de masas

Distinta de la desinformación (que se basa en lo falso), otra preocupación va en aumento: la persuasión en sí, es decir, la capacidad de hacer cambiar de opinión, incluso con argumentos veraces. Un estudio preregistrado (Salvi y colaboradores, Nature Human Behaviour, 2025) hizo debatir a unas 900 personas frente a un humano o a GPT-4, sobre temas de sociedad. Resultado llamativo: cuando el modelo disponía de algunos datos sociodemográficos sobre su interlocutor, resultó más persuasivo que el humano en alrededor del 64 % de los debates no equilibrados; sin personalización, quedaba en igualdad. La ventaja decisiva no es tanto la calidad de un argumento como la capacidad de personalizar al instante y a muy gran escala: adaptar el mensaje a cada perfil, por millones, en tiempo real. Se mide el riesgo en el marketing, las campañas políticas o las redes sociales, donde una microsegmentación automatizada de este tipo podría influir en la opinión de forma masiva y discreta. Los propios autores instan a las plataformas y a los reguladores a vigilar, y si es necesario a regular, el uso de estos modelos en contextos persuasivos sensibles. Es un desafío social de pleno derecho, en la encrucijada de la psicología (capítulo 19) y la democracia.

21.3Privacidad y protección de datos

En contexto

La privacidad diferencial

¿Cómo explotar datos sensibles (historiales de salud, usos de un servicio) sin exponer a los individuos que los componen? Una respuesta rigurosa, convertida en estándar, es la privacidad diferencial (differential privacy). La idea: añadir a los resultados una dosis de ruido aleatorio cuidadosamente calibrada, de modo que las estadísticas de conjunto sigan siendo fiables, pero que resulte matemáticamente imposible saber si una persona dada figuraba o no en el conjunto de datos. Así se pueden publicar tendencias, o incluso entrenar un modelo, acotando formalmente lo que se puede reaprender sobre un individuo. La técnica, empleada por grandes actores (institutos estadísticos, fabricantes de teléfonos que recopilan usos sin rastrear a cada cual), tiene un coste: cuanto más se protege, más se degrada la precisión, de ahí un equilibrio que ajustar. Combinada con el aprendizaje federado y el cifrado (capítulo 11), forma parte de la caja de herramientas de una IA «respetuosa de la privacidad por diseño», alternativa a la centralización de los datos en claro.

21.4Vigilancia, sesgo y discriminación

En contexto

La diversidad lingüística y el Sur global

Los beneficios de la IA no se reparten por igual según las lenguas. Los mejores modelos se entrenan sobre todo con inglés y un puñado de lenguas muy ricas en datos; son claramente menos competentes en los miles de lenguas de bajos recursos, a menudo habladas en los países del Sur, lo que amenaza con ahondar una brecha digital (las poblaciones afectadas están también peor servidas por las infraestructuras y por el coste de los modelos). Existen esfuerzos para remediarlo: proyectos de modelos para las lenguas africanas o indias, conjuntos de datos abiertos y comunitarios, iniciativas de soberanía lingüística. El reto no es solo técnico: una lengua mal servida por la IA ve retroceder su uso digital, lo que puede acelerar su desaparición. La diversidad lingüística de la IA es, por tanto, también un desafío cultural y de equidad.

21.5Responsabilidad, justicia y vertiente positiva

En pocas palabras

Tres cuestiones completan el cuadro.

La responsabilidad. Cuando una IA causa un daño (un diagnóstico erróneo, un accidente de vehículo autónomo, un consejo financiero ruinoso), ¿quién es responsable? ¿El usuario, el implementador, el diseñador? La idea de conceder una «personalidad jurídica» a la IA está ampliamente descartada; más bien se avanza hacia regímenes de responsabilidad por productos defectuosos y una obligación de supervisión humana. La Unión Europea, de hecho, ha modernizado su régimen de responsabilidad por productos defectuosos para incluir explícitamente el software y los sistemas de IA.
La justicia predictiva. El uso de algoritmos para evaluar un riesgo de reincidencia u orientar decisiones judiciales ha suscitado fuertes críticas: algunas herramientas resultaron sesgadas en perjuicio de ciertas poblaciones, planteando la cuestión de la igualdad ante la ley.
El poder de las plataformas. La IA modera ya miles de millones de contenidos: un poder considerable sobre la libertad de expresión y la información, concentrado en pocas manos, con errores a gran escala. La protección de los menores en línea (contenidos inapropiados, compañeros IA, capítulo 19) es un caso particularmente sensible.

En contexto

El «derecho a la explicación»

Cuando una decisión automatizada afecta a una persona (denegación de crédito, criba de candidaturas, prestación denegada), ¿puede esta exigir comprender cómo se tomó? Es el desafío del derecho a la explicación, esbozado en el derecho europeo (el RGPD regula las decisiones «basadas exclusivamente en un tratamiento automatizado» y abre un derecho a una intervención humana y a una impugnación). El principio es potente, pero choca con la opacidad de los modelos (la «caja negra», capítulo 2): explicar la salida de una red de varios miles de millones de parámetros en términos inteligibles es un problema técnico no resuelto, que enlaza con la investigación en interpretabilidad (capítulo 24) y en IA explicable. De ahí enfoques pragmáticos: facilitar los factores principales de una decisión, garantizar un recurso humano, documentar el sistema. El desafío va más allá de la comodidad del usuario: sin explicación ni recurso, no hay impugnación posible ni responsabilidad efectiva, y la decisión algorítmica escapa a todo control democrático.

Para recordar (capítulo 21)

Derechos de autor: el entrenamiento tiende hacia el fair use en Estados Unidos, pero la piratería se sanciona y la responsabilidad por los contenidos generados sigue abierta; emerge un mercado de licencias.
Deepfakes: fraude, desinformación, amenaza para la democracia; peligro profundo del «dividendo del mentiroso»; defensas parciales (detección, trazabilidad, señalización obligatoria en la UE).
Privacidad: la IA puede inferir datos sensibles; el RGPD regula con fuerza en Europa, con un desafío de articulación con el reglamento sobre la IA.
Vigilancia y sesgo: usos variables según las regiones, riesgo de discriminación algorítmica que afecta a los más vulnerables.
Responsabilidad (sin personalidad jurídica para la IA), justicia predictiva (sesgo), poder de las plataformas; pero también una vertiente positiva mayúscula: la accesibilidad para las personas con discapacidad.

Del derecho civil al ámbito soberano más sensible: el capítulo 22 aborda la defensa y la seguridad internacional.

21.1Derechos de autor y propiedad intelectual#

21.2Deepfakes, desinformación y democracia#

21.3Privacidad y protección de datos#

21.4Vigilancia, sesgo y discriminación#

21.5Responsabilidad, justicia y vertiente positiva#

Para recordar (capítulo 21)

21.1Derechos de autor y propiedad intelectual

21.2Deepfakes, desinformación y democracia

21.3Privacidad y protección de datos

21.4Vigilancia, sesgo y discriminación

21.5Responsabilidad, justicia y vertiente positiva