Gobernanza, regulación y futuros posibles

Para volver concretas estas familias, conviene esbozar sus versiones extremas, sin perder de vista que se trata de escenarios, no de predicciones.

La cara luminosa. En la hipótesis más favorable, defendida a menudo por los optimistas (el ensayo Machines of Loving Grace de Dario Amodei, capítulo 7, es una muestra de ello), una IA potente y bajo control actuaría como un acelerador del conocimiento. Cabe imaginar décadas de progreso médico comprimidas en unos pocos años: enfermedades hoy incurables comprendidas y tratadas, diagnósticos precoces generalizados, diseño acelerado de fármacos (capítulo 14). A ello se sumarían una edad de oro científica (materiales, energía, clima), un tutor personalizado para cada alumno (capítulo 15) y, si las ganancias de productividad se compartieran ampliamente, una forma de abundancia material que liberaría tiempo. Es el escenario en el que la IA cumple sus promesas sin que sus riesgos se materialicen.

La cara oscura. A la inversa, varias trayectorias preocupantes ni siquiera presuponen una superinteligencia hostil. La más debatida de las transiciones dolorosas es la de un desempleo masivo mal anticipado: si la automatización (cognitiva y luego física, capítulo 17) avanzara más deprisa que la creación de empleo y las ganancias se concentraran, las desigualdades se dispararían. Un segundo riesgo es político: herramientas de IA muy eficaces pueden servir a una vigilancia generalizada y a una concentración del poder inédita, entre unos pocos Estados o unas pocas empresas, hasta un posible bloqueo duradero de un orden autoritario (capítulo 21). Un tercero radica en el mal uso deliberado: ciberataques de gran envergadura, desinformación industrializada, e incluso una rebaja de la barrera hacia armas biológicas (capítulos 20, 22 y 24). Un cuarto, más insidioso, se formalizó en 2025 con el nombre de desempoderamiento progresivo (gradual disempowerment): sin ninguna toma de control brutal, la humanidad podría perder poco a poco el control sobre su economía, su cultura y sus instituciones, simplemente al delegar cada vez más decisiones en sistemas más rápidos y menos costosos que ella, hasta el punto de que sus intereses dejen de estar en el centro. En el extremo figura, por último, el escenario de una pérdida de control rápida frente a una IA muy avanzada y desalineada (el relato AI 2027, sección 24.3). Menos espectacular pero citado a menudo, un riesgo de sentido completa el cuadro: ¿qué sería del trabajo, del esfuerzo y del orgullo de crear en un mundo donde la máquina lo hiciera casi todo mejor y más deprisa?

Ninguna de estas imágenes es segura, y la realidad mezclará sin duda lo mejor y lo peor según los ámbitos y las regiones. Es precisamente porque el abanico es tan amplio por lo que la trayectoria depende de variables que, en parte, podemos inflexionar.

Las variables decisivas son cuatro, y cada una remite a un capítulo de este curso: el éxito (o no) de la alineación y de la seguridad (capítulo 24); la calidad de la gobernanza y de la coordinación (este capítulo); el reparto de los beneficios, entre concentración y democratización (capítulos 9 y 17); y la evolución de la rivalidad geopolítica (capítulos 8 y 22). En cuanto a la llegada de una eventual inteligencia artificial general (AGI), las estimaciones de los expertos van de unos pocos años a varias décadas, o incluso nunca: he ahí la magnitud de la incertidumbre.

---

Para recordar (capítulo 25)

• Tres enfoques de regulación: Europa (derechos y riesgo, efecto extraterritorial), Estados Unidos (mercado y control de las exportaciones), China (dirección por el Estado).
• La AI Act europea clasifica los usos en una pirámide de riesgos (inaceptable, alto, limitado, mínimo); aplicación general el 2 de agosto de 2026 (alto riesgo, transparencia), sanciones de hasta 35 M€ o el 7 % de la facturación, bajo el debate protección frente a competitividad (Digital Omnibus).
• Gobernar los modelos de frontera plantea las cuestiones de las auditorías obligatorias (analogía con la aviación), de los institutos de seguridad y del control por el Estado, todo ello entorpecido por la dificultad de la coordinación internacional en un contexto de carrera.
• Los futuros van de una cara luminosa (abundancia, edad de oro científica, medicina y educación transformadas) a una cara oscura (desempleo masivo, vigilancia y concentración del poder, mal uso, desempoderamiento progresivo, pérdida de control), pasando por un camino «a trompicones»; cuatro variables decidirán: alineación, gobernanza, reparto, geopolítica. La llegada de una AGI sigue siendo muy incierta.
• Hilo conductor: la IA es una tecnología de uso general; la postura adecuada es la lucidez informada, pues su futuro dependerá de nuestras decisiones colectivas.

---