El derecho ya existe, el reconocimiento institucional ya existe; falta voluntad política.
Resumen
El desarrollo de grandes modelos de lenguaje podría configurar, bajo derecho positivo vigente correctamente interpretado, una actividad sometida al régimen jurídico de las actividades ultrarriesgosas, con activación plena del principio precautorio. La tesis central de este trabajo es estructural y deliberadamente austera: el principio precautorio activa el régimen cuando una posibilidad de daño grave o irreversible ha sido institucionalmente reconocida; el riesgo de daño catastrófico por desalineación ha sido reconocido por los CEOs de los principales laboratorios frontera, por 28 Estados desarrolladores y por la comunidad científica organizada bajo mandato gubernamental; en consecuencia, las obligaciones derivadas son aplicables por aplicación directa del derecho vigente. No se requiere innovación legislativa ni construcción doctrinal adicional. Lo que separa la situación actual del cumplimiento del régimen no es un problema jurídico sino político: la voluntad de hacer cumplir la ley a una actividad cuyos propios desarrolladores han reconocido institucionalmente como portadora de riesgo catastrófico.
1 · Planteamiento
El derecho que tenemos y la actividad que no nombramos
El desarrollo de grandes modelos de lenguaje ha alcanzado una escala que el sistema jurídico no ha terminado de procesar. La respuesta predominante ha sido incremental: extensión de regímenes diseñados para tecnologías de naturaleza distinta. La hipótesis de este trabajo es que las propiedades específicas de estos sistemas activan regímenes jurídicos cualitativamente distintos —ya existentes en el derecho positivo— y que su aplicación no requiere innovación legislativa ni construcción doctrinal adicional, sino aplicación coherente de instrumentos vigentes y voluntad política de hacerlos exigibles.
Si una empresa privada desarrollara una tecnología con capacidad probable de modificar la órbita lunar, ninguna jurisdicción civilizada aceptaría su operación bajo régimen ordinario de responsabilidad. La diferencia entre modificar la órbita lunar y desarrollar sistemas con potencial reconocido de impacto sobre la integridad de la especie humana no es de naturaleza, es de visibilidad jurídica.
2 · El derecho ya existe
Umbral de activación del principio precautorio
El Principio 15 de la Declaración de Río sobre el Medio Ambiente y el Desarrollo (1992) establece:
«Con el fin de proteger el medio ambiente, los Estados deberán aplicar ampliamente el criterio de precaución conforme a sus capacidades. Cuando haya peligro de daño grave o irreversible, la falta de certeza científica absoluta no deberá utilizarse como razón para postergar la adopción de medidas eficaces en función de los costos para impedir la degradación del medio ambiente.»
La doctrina interpretativa autorizada del principio se encuentra en la Comunicación de la Comisión Europea sobre el recurso al principio de precaución, COM(2000) 1 final, que precisó el umbral de activación:
«Puede invocarse el principio de precaución cuando un fenómeno, un producto o un proceso puede tener efectos potencialmente peligrosos identificados por una evaluación científica y objetiva, si dicha evaluación no permite determinar el riesgo con suficiente certeza.»
La sentencia Pfizer Animal Health SA c. Consejo, asunto T-13/99 (Tribunal de Primera Instancia, 11 de septiembre de 2002), consolidó jurisprudencialmente el estándar. El Tribunal confirmó que pueden adoptarse medidas restrictivas sin esperar a que la realidad y gravedad del riesgo estén plenamente demostradas, siempre que el riesgo identificado no sea puramente hipotético, sino fruto de una evaluación científica seria, aunque no concluyente. La incertidumbre científica no obsta a la actuación cuando el peligro reconocible afecta a bienes jurídicos de alto rango.
El cuerpo normativo es positivo, vigente y consolidado. Su condición de activación está fijada con precisión doctrinal: posibilidad de daño grave o irreversible identificada por evaluación científica seria, aunque no cuantificada en su probabilidad. No se requiere construcción jurídica adicional para invocarlo.
3 · El reconocimiento institucional ya existe
Alineamiento convergente de los tomadores de decisión
La condición de activación del principio precautorio —reconocimiento institucional de la posibilidad de daño grave o irreversible— se satisface en el caso del riesgo catastrófico por desalineación de sistemas de IA avanzada con una robustez inusual: la reconocibilidad ha sido producida, en términos convergentes, por tres fuentes institucionales cuya composición hace inviables las evasivas categóricas habituales.
PRIMERO · LOS PROPIOS DESARROLLADORES FRONTERA
La declaración del Center for AI Safety de mayo de 2023, suscrita por Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Dario Amodei (Anthropic), junto a los ganadores del Premio Turing Geoffrey Hinton y Yoshua Bengio, calificó textualmente la mitigación del riesgo de extinción por IA como prioridad global equivalente a pandemias y guerra nuclear. Los firmantes que serían los sujetos regulados de cualquier régimen precautorio han respaldado expresamente la calificación de riesgo que dispara ese régimen. Más allá de la declaración colectiva, Dario Amodei ha defendido públicamente la necesidad de regulación federal de los desarrolladores de modelos frontera en su testimonio ante el Senado de Estados Unidos (julio 2023) y en intervenciones posteriores. El argumento de que un régimen precautorio sería resistido por la industria frontera no sobrevive al contacto con el registro público.
SEGUNDO · LOS ESTADOS DESARROLLADORES
La Declaración de Bletchley de noviembre de 2023, firmada por 28 Estados —incluyendo Estados Unidos, Reino Unido, Unión Europea, China, India, Brasil, Japón, Alemania, Francia, Arabia Saudita— y la Unión Europea, reconoce textualmente el potencial de daño «grave, incluso catastrófico, deliberado o no intencional» derivado de las capacidades más significativas de estos modelos, e identifica explícitamente los «problemas no intencionados de control relacionados con el alineamiento con la intención humana». La calificación catastrófica aparece en texto firmado por la mayoría de Estados desarrolladores de la tecnología, atravesando todas las divisiones geopolíticas relevantes.
TERCERO · LA COMUNIDAD CIENTÍFICA BAJO MANDATO GUBERNAMENTAL
El International Scientific Report on the Safety of Advanced AI, liderado por Yoshua Bengio bajo mandato intergubernamental con participación internacional, y los AI Safety Institutes establecidos por el Reino Unido, Estados Unidos, Japón, Singapur y la Unión Europea, institucionalizan la evaluación del riesgo en órganos estatales con autoridad técnica reconocida. La existencia de estos órganos satisface, con holgura, el estándar de «evaluación seria» que la jurisprudencia Pfizer exige para activar el principio precautorio.
La convergencia es decisiva. No es posible sostener que la calificación del riesgo es la posición de críticos externos a la tecnología, puesto que sus principales desarrolladores la han suscrito; ni que es la posición de un solo Estado o bloque político, puesto que ha sido firmada por jurisdicciones de orientaciones geopolíticas diversas; ni que carece de evaluación científica institucionalizada, puesto que el informe científico internacional cumple exactamente esa función. La base fáctica del disparador precautorio es, en este caso, más sólida que en ningún precedente comparable de aplicación del principio.
Síntesis
A — El derecho positivo internacional vigente activa el principio precautorio sobre fenómenos con posibilidad de daño grave o irreversible identificada por evaluación científica seria. Este derecho está formulado, consolidado por doctrina interpretativa y aplicado por jurisprudencia.
B — El riesgo de daño catastrófico por desalineación ha sido reconocido institucionalmente por los CEOs de los principales laboratorios frontera, por 28 Estados desarrolladores en instrumento intergubernamental formal y por la comunidad científica organizada bajo mandato gubernamental.
C — En consecuencia, el principio precautorio se activa, por aplicación directa del derecho vigente, sobre el desarrollo y despliegue de sistemas frontera de IA. La activación es binaria y no requiere construcción doctrinal adicional. Las obligaciones derivadas son las que el ordenamiento aplica a las actividades estructuralmente análogas.
4 · Aplicación
Actividades ultrarriesgosas y obligaciones derivadas
Activado el principio, las obligaciones operativas se derivan de la calificación de la actividad. La doctrina de actividades ultrarriesgosas —reconocida en common law en el Restatement (Second) of Torts §§ 519-520 y en tradición continental con estructura análoga— genera responsabilidad objetiva e impone obligaciones preventivas reforzadas para actividades cuyas propiedades intrínsecas las hacen incompatibles con el régimen ordinario de culpa. Sus criterios doctrinales —alto grado de riesgo, gravedad del daño probable, imposibilidad de eliminar el riesgo mediante cuidado razonable, carácter no común, balance entre valor y riesgos— se satisfacen en sistemas frontera de IA bajo el reconocimiento institucional descrito.
Las obligaciones que el régimen genera son las propias de las actividades ultrarriesgosas, y no requieren construcción doctrinal específica para este dominio: autorización previa por autoridad competente con capacidad técnica para evaluación sustantiva; evaluación de impacto integrada en el diseño y entrenamiento, no como evaluación ex post; supervisión externa continua con acceso técnico real por entidad independiente; transparencia reforzada sobre procesos de entrenamiento, evaluaciones de capacidad y seguridad, y comportamiento del modelo; responsabilidad objetiva por daños sistémicos, con independencia de prueba de culpa; garantías financieras proporcionadas al riesgo; y obligación de suspensión cautelar frente a indicios serios, con carga argumental sobre quien opera el sistema, no sobre quien plantea el indicio.
Estas obligaciones operativas no son aspiracionales ni requieren desarrollo legislativo nuevo. Son las que el ordenamiento jurídico ya aplica a actividades estructuralmente análogas. Su aplicabilidad a los sistemas frontera de IA no depende de innovación regulatoria: depende de la decisión institucional de aplicar coherentemente las categorías jurídicas vigentes a una actividad cuyo perfil de riesgo ha sido reconocido por sus propios desarrolladores.
5 · Refuerzos
Tres regímenes independientes convergentes
AMBIENTAL — Los impactos materiales del ciclo completo de la IA están documentados institucionalmente. La Agencia Internacional de la Energía reporta crecimiento del 17% en el consumo eléctrico global de los centros de datos en 2025, con duplicación proyectada hacia 945 TWh en 2030. En diciembre de 2025, la Asamblea de las Naciones Unidas para el Medio Ambiente (UNEA-7) adoptó su primera resolución sobre el impacto ambiental de la inteligencia artificial. Estos impactos activan, por vía adicional e independiente, los instrumentos del régimen ambiental internacional (CMNUCC, Convenio sobre la Diversidad Biológica).
DD.HH. — Los Principios Rectores sobre las Empresas y los Derechos Humanos exigen integración de evaluaciones de impacto en los procesos de toma de decisiones, no como evaluación ex post. La sentencia del TEDH KlimaSeniorinnen c. Suiza (2024) expandió las obligaciones positivas estatales frente a riesgos sistémicos, incluso cuando los efectos individualizados no estén plenamente determinados.
INFANCIA — La intensificación es cualitativa cuando los sistemas afectan a menores. La Observación General nº 25 (2021) del Comité de los Derechos del Niño, sobre derechos del niño en el entorno digital, exige integración del interés superior del niño desde el diseño de los productos y servicios, excluyendo expresamente la suficiencia de medidas ex post. Las obligaciones, conforme a la Convención sobre los Derechos del Niño, son inderogables.
6 · Conclusión
El problema no es jurídico
El régimen aquí identificado no constituye propuesta de lege ferenda. Es derivación interpretativa del derecho ya vigente. El derecho positivo internacional —Declaración de Río, doctrina interpretativa europea consolidada, jurisprudencia precautoria, instrumentos de derechos humanos, protección reforzada del interés superior del niño— provee la base completa.
El reconocimiento del riesgo, condición de activación de ese derecho, no es objeto de disputa entre quienes desarrollan estos sistemas y quienes los regulan. Los CEOs de los principales laboratorios frontera han suscrito públicamente la calificación del riesgo como catastrófico. Los Estados desarrolladores han firmado instrumentos intergubernamentales que recogen esa calificación. La comunidad científica relevante ha articulado el riesgo en literatura técnica y en informes bajo mandato gubernamental.
La obligación está activada. Las consecuencias están establecidas. Lo que separa la situación actual del cumplimiento del régimen no es un problema jurídico: no falta derecho, no falta evaluación, no falta consenso técnico ni reconocimiento institucional. Falta voluntad política de aplicar la ley a quienes la propia ley considera responsables, y a quienes la propia ley considera autorizados para reconocer el riesgo que activa el régimen.
La diferencia entre modificar la órbita lunar y desarrollar sistemas con potencial reconocido de impacto sobre la integridad de la especie humana no es de naturaleza, es de visibilidad jurídica. Y la visibilidad jurídica ya existe: lo que falta es la decisión política de actuar conforme a ella.
Fuentes
INSTRUMENTOS INTERNACIONALES
- Declaración de Río sobre el Medio Ambiente y el Desarrollo (1992)
- Convención Marco de las Naciones Unidas sobre el Cambio Climático
- Convenio sobre la Diversidad Biológica
- Convención sobre los Derechos del Niño
DOCTRINA INTERPRETATIVA Y DERECHO UE
- Comunicación COM(2000) 1 final sobre el principio de precaución
- Síntesis EUR-Lex del COM(2000) 1 final
- Sentencia Pfizer Animal Health SA c. Consejo, T-13/99 (TJUE, 2002)
- Comunicado de prensa CJUE sobre Pfizer
JURISPRUDENCIA INTERNACIONAL DE DERECHOS HUMANOS
ESTÁNDARES DE NACIONES UNIDAS
- Principios Rectores sobre las Empresas y los Derechos Humanos (2011)
- Observación General nº 25 (2021), Comité de los Derechos del Niño
RECONOCIMIENTO INSTITUCIONAL DEL RIESGO
- Statement on AI Risk, Center for AI Safety (mayo 2023)
- Declaración de Bletchley sobre Seguridad de la IA (noviembre 2023)
- Testimonio escrito de Dario Amodei ante el Senado de EE.UU. (25 jul 2023)
IMPACTO AMBIENTAL DE LA IA
- International Energy Agency, Energy and AI (2025)
- PNUMA, Artificial Intelligence end-to-end: environmental impact
DOCTRINA FILOSÓFICA Y COMPARADA
- Hans Jonas, Das Prinzip Verantwortung (1979) / El principio de responsabilidad.
- Restatement (Second) of Torts, §§ 519-520 (American Law Institute, 1977).