Inteligencia artificial, ¿quién decide el ritmo?

Bernardo Von Raesfeld

Inteligencia artificial, ¿quién decide el ritmo?
La encíclica Magnifica Humanitas no apuesta a un calendario de catástrofe ni a la tesis de que la seguridad se resuelve sola con más velocidad. León XIV pide responsabilidad, transparencia y una política capaz de frenar el paso donde todo acelera.

El reciente debate entre quienes dirigen laboratorios de frontera y quienes identifican la seguridad con no perder una carrera muestra que lo decisivo no es adivinar el futuro, sino preguntar qué se protege, quién rinde cuentas y si el poder tecnológico equivale al derecho a gobernar.

Una disputa que no es solo técnica

En las últimas semanas, Dario Amodei, Sam Altman y Elon Musk coincidieron en que el avance de los modelos de frontera debe ser dosificado, para que las salvaguardas no queden atrás. Jensen Huang y voces políticas que priorizan la ventaja geopolítica respondieron que no hacen falta leyes nuevas y que frenar es ceder terreno. Lo que importa para un discernimiento humanista no es quién acierte un desenlace próximo, sino qué idea de seguridad está en juego.

Unos entienden la seguridad como control de un riesgo existencial o sistémico: sistemas que escapan, dañan infraestructuras o concentran un poder que ya no se puede corregir. Otros la entienden como no perder la carrera entre Estados y empresas. Ambos lenguajes pueden invocar el bien de la humanidad y, al mismo tiempo, dejar fuera a las personas concretas: trabajadores invisibles, comunidades sin voz, pueblos que no programan los modelos y sí sufren sus efectos.

Lo que enseña Magnifica Humanitas

León XIV advierte que cualquier afirmación sobre la IA puede quedar obsoleta pronto y que incluso quienes la diseñan conocen poco su funcionamiento interno. Por eso pide investigación científica más profunda y discernimiento moral. El uso de estos sistemas nunca es un hecho puramente técnico cuando incide en derechos, reputación, trabajo o libertad. No es moralmente neutro: todo artefacto lleva prioridades sobre lo que mide, ignora y optimiza.

De ahí nace una exigencia que atraviesa el debate actual.

Pedir prudencia, controles rigurosos y, en ocasiones, frenar el paso no significa oponerse al progreso, sino ejercer un cuidado responsable hacia la familia humana.

Existe un desequilibrio entre la velocidad técnica y el ritmo al que maduran la conciencia, las normas y las instituciones. Si la política renuncia a su tarea, el cambio será gobernado sólo por lógicas tecnocráticas y por quienes poseen datos, infraestructuras y capacidad de cálculo.

El Papa insiste en la rendición de cuentas: identificar quién debe rendirlas, motivar decisiones, corregir errores y remediar daños. Sin transparencia, la injusticia se realiza en silencio y el descarte de los débiles aparece revestido de objetividad.

 

Tú también puedes forjar el bien común - Apoya a Revista Forja
Tú también puedes forjar el bien común - Apoya a Revista Forja

Dos ideas de seguridad, una pregunta

Aquí se ve con claridad dónde coinciden y dónde no el Magisterio y los actores del debate. Coincide con Amodei, Altman y Musk en que la frontera no puede avanzarse a ciegas y en que hace falta evaluación independiente. Coincide también en que la autorreferencia de los laboratorios es insuficiente cuando el daño posible traspasa fronteras. Diverge, sin embargo, si la seguridad se reduce a un pacto entre élites técnicas o a un cálculo de ventaja nacional.

Con Huang y con quienes confían en la ingeniería y en el mercado hay un punto de contacto: la seguridad no se improvisa con declaraciones éticas vacías; exige diseño responsable. Pero la encíclica no acepta que baste la decisión unilateral de no publicar un producto. 

No serviría de nada una inteligencia artificial más moral si esa moral es decidida por unos pocos. 

El código ético debe someterse a criterios de justicia social compartida. De lo contrario, quien controla la IA impone su visión como infraestructura invisible de la vida común.

La pregunta humanista, por tanto, no es solo “¿es segura la máquina?”, sino “¿seguridad de quién?”. ¿De una empresa, de un Estado, de una especie abstracta, o de cada persona, empezando por los más vulnerables? Una carrera presentada como destino inevitable puede sacrificar a los débiles en nombre de una optimización futura. Esa lógica ya fue advertida por Pablo VI: el progreso técnico, sin progreso moral y social, se vuelve contra el hombre.

Desarmar el poder, no la inteligencia

León XIV usa una palabra exigente: desarmar. No significa apagar la investigación ni negar beneficios reales en medicina, educación o cuidado. Significa sustraer la IA a la lógica de una competencia que ya no es solo militar, sino económica y cognitiva.

Desarmar es romper la equivalencia entre poder tecnológico y derecho a gobernar. 

Es hacer discutible y habitable lo que hoy se presenta como inevitable. Es reconocer que los datos y las infraestructuras no pueden quedar solo en manos privadas, porque son fruto del aporte de muchos.

Los principios de la Doctrina social ofrecen aquí un criterio que no caduca con el próximo modelo. El bien común exige nombrar los nuevos monopolios. La subsidiariedad impide que las comunidades sean meras destinatarias de estándares fijados en otro lugar. La solidaridad obliga a ver el trabajo oculto que entrena a las máquinas. La justicia pide que no se programe el mundo desde unas pocas geografías del poder.

Custodiar a la persona en el tiempo de la IA no consiste en adivinar si el peligro llegará en seis meses o en diez años. Consiste en no entregar el ritmo de lo humano a quienes concentran el cálculo. Una civilización no se mide por la potencia de sus medios, sino por el cuidado que sabe ofrecer. En esa medida, la seguridad verdadera no es ganar la carrera: es impedir que la carrera decida por nosotros quién cuenta y quién puede ser descartado.

 


Referencias:

León XIV. (2026). Magnifica Humanitas. Carta encíclica sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Ciudad del Vaticano: Libreria Editrice Vaticana.

Amodei, D. (2026, 12 de septiembre). We must pace the frontier. Anthropic.

Huang, J. (2026, 15 de septiembre). Declaraciones sobre seguridad e innovación de la IA. Dreamforce / entrevistas públicas.

Cita este artículo

Von Raesfeld, B., (2026, noviembre 18). Inteligencia artificial, ¿quién decide el ritmo? Revista Forja Para el Bien Común. https://revistaforja.org/inteligencia-artificial-quien-decide-el-ritmo/

 

Enlace a edición mensual

Revista Forja para el Bien Común núm. 61, octubre 2026

¿Qué te ha parecido este contenido?

Autor

Suscríbete al canal de Revista Forja en WhatsApp

RECIBE GRATIS LA REVISTA

Suscríbete gratis a nuestro canal en WhatsApp y recibe la revista en PDF cada mes, además de artículos y reflexiones todos los días.

También síguenos en redes sociales y mantente al día con lo mejor de nuestra comunidad.

LEER MÁS

Inteligencia artificial y bien común: repensar el trabajo en un país desigual 0 (0)

Inteligencia artificial y bien común: repensar el trabajo en un país desigual 0 (0)

¿Qué significa hoy “echarle ganas” cuando la tecnología puede multiplicar oportunidades, pero también profundizar desigualdades? El desafío no consiste únicamente en aprender a utilizar nuevas herramientas, sino en construir instituciones, políticas educativas y condiciones laborales capaces de impedir que la inteligencia artificial convierta las brechas existentes en fronteras insalvables. Pensar la IA desde el bien común exige preguntarse, antes que nada, quién podrá beneficiarse de ella y quién corre el riesgo de quedar fuera.

leer más
Inteligencia artificial, trabajo y dignidad humana 5 (1)

Inteligencia artificial, trabajo y dignidad humana 5 (1)

La encíclica Magnifica Humanitas del Papa León XIV reafirma que el trabajo es clave esencial de la dignidad humana y no un mero instrumento de subsistencia. Frente a algunas visiones entre ellas las de Elon Musk y Peter Diamandis, que anticipan un futuro de abundancia con empleo opcional y renta universal alta, el Magisterio insiste en que las ayudas económicas no pueden sustituir el acceso al trabajo digno. Este artículo analiza coincidencias y divergencias fundamentales para orientar una transición digital centrada en la persona y el bien común.

leer más
Revista Forja para el Bien Común
Resumen de privacidad

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras más interesantes y útiles.