El reciente debate entre quienes dirigen laboratorios de frontera y quienes identifican la seguridad con no perder una carrera muestra que lo decisivo no es adivinar el futuro, sino preguntar qué se protege, quién rinde cuentas y si el poder tecnológico equivale al derecho a gobernar.
Una disputa que no es solo técnica
En las últimas semanas, Dario Amodei, Sam Altman y Elon Musk coincidieron en que el avance de los modelos de frontera debe ser dosificado, para que las salvaguardas no queden atrás. Jensen Huang y voces políticas que priorizan la ventaja geopolítica respondieron que no hacen falta leyes nuevas y que frenar es ceder terreno. Lo que importa para un discernimiento humanista no es quién acierte un desenlace próximo, sino qué idea de seguridad está en juego.
Unos entienden la seguridad como control de un riesgo existencial o sistémico: sistemas que escapan, dañan infraestructuras o concentran un poder que ya no se puede corregir. Otros la entienden como no perder la carrera entre Estados y empresas. Ambos lenguajes pueden invocar el bien de la humanidad y, al mismo tiempo, dejar fuera a las personas concretas: trabajadores invisibles, comunidades sin voz, pueblos que no programan los modelos y sí sufren sus efectos.
Lo que enseña Magnifica Humanitas
León XIV advierte que cualquier afirmación sobre la IA puede quedar obsoleta pronto y que incluso quienes la diseñan conocen poco su funcionamiento interno. Por eso pide investigación científica más profunda y discernimiento moral. El uso de estos sistemas nunca es un hecho puramente técnico cuando incide en derechos, reputación, trabajo o libertad. No es moralmente neutro: todo artefacto lleva prioridades sobre lo que mide, ignora y optimiza.
De ahí nace una exigencia que atraviesa el debate actual.
Pedir prudencia, controles rigurosos y, en ocasiones, frenar el paso no significa oponerse al progreso, sino ejercer un cuidado responsable hacia la familia humana.
Existe un desequilibrio entre la velocidad técnica y el ritmo al que maduran la conciencia, las normas y las instituciones. Si la política renuncia a su tarea, el cambio será gobernado sólo por lógicas tecnocráticas y por quienes poseen datos, infraestructuras y capacidad de cálculo.
El Papa insiste en la rendición de cuentas: identificar quién debe rendirlas, motivar decisiones, corregir errores y remediar daños. Sin transparencia, la injusticia se realiza en silencio y el descarte de los débiles aparece revestido de objetividad.
Dos ideas de seguridad, una pregunta
Aquí se ve con claridad dónde coinciden y dónde no el Magisterio y los actores del debate. Coincide con Amodei, Altman y Musk en que la frontera no puede avanzarse a ciegas y en que hace falta evaluación independiente. Coincide también en que la autorreferencia de los laboratorios es insuficiente cuando el daño posible traspasa fronteras. Diverge, sin embargo, si la seguridad se reduce a un pacto entre élites técnicas o a un cálculo de ventaja nacional.
Con Huang y con quienes confían en la ingeniería y en el mercado hay un punto de contacto: la seguridad no se improvisa con declaraciones éticas vacías; exige diseño responsable. Pero la encíclica no acepta que baste la decisión unilateral de no publicar un producto.
No serviría de nada una inteligencia artificial más moral si esa moral es decidida por unos pocos.
El código ético debe someterse a criterios de justicia social compartida. De lo contrario, quien controla la IA impone su visión como infraestructura invisible de la vida común.
La pregunta humanista, por tanto, no es solo “¿es segura la máquina?”, sino “¿seguridad de quién?”. ¿De una empresa, de un Estado, de una especie abstracta, o de cada persona, empezando por los más vulnerables? Una carrera presentada como destino inevitable puede sacrificar a los débiles en nombre de una optimización futura. Esa lógica ya fue advertida por Pablo VI: el progreso técnico, sin progreso moral y social, se vuelve contra el hombre.
Desarmar el poder, no la inteligencia
León XIV usa una palabra exigente: desarmar. No significa apagar la investigación ni negar beneficios reales en medicina, educación o cuidado. Significa sustraer la IA a la lógica de una competencia que ya no es solo militar, sino económica y cognitiva.
Desarmar es romper la equivalencia entre poder tecnológico y derecho a gobernar.
Es hacer discutible y habitable lo que hoy se presenta como inevitable. Es reconocer que los datos y las infraestructuras no pueden quedar solo en manos privadas, porque son fruto del aporte de muchos.
Los principios de la Doctrina social ofrecen aquí un criterio que no caduca con el próximo modelo. El bien común exige nombrar los nuevos monopolios. La subsidiariedad impide que las comunidades sean meras destinatarias de estándares fijados en otro lugar. La solidaridad obliga a ver el trabajo oculto que entrena a las máquinas. La justicia pide que no se programe el mundo desde unas pocas geografías del poder.
Custodiar a la persona en el tiempo de la IA no consiste en adivinar si el peligro llegará en seis meses o en diez años. Consiste en no entregar el ritmo de lo humano a quienes concentran el cálculo. Una civilización no se mide por la potencia de sus medios, sino por el cuidado que sabe ofrecer. En esa medida, la seguridad verdadera no es ganar la carrera: es impedir que la carrera decida por nosotros quién cuenta y quién puede ser descartado.
Referencias:
León XIV. (2026). Magnifica Humanitas. Carta encíclica sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Ciudad del Vaticano: Libreria Editrice Vaticana.
Amodei, D. (2026, 12 de septiembre). We must pace the frontier. Anthropic.
Huang, J. (2026, 15 de septiembre). Declaraciones sobre seguridad e innovación de la IA. Dreamforce / entrevistas públicas.
Cita este artículo
Von Raesfeld, B., (2026, noviembre 18). Inteligencia artificial, ¿quién decide el ritmo? Revista Forja Para el Bien Común. https://revistaforja.org/inteligencia-artificial-quien-decide-el-ritmo/
Enlace a edición mensual







