IA: tengamos en cuenta las advertencias

Escrita en colaboración con MARCELO PALMA

El 18 de octubre, Anthropic, la empresa responsable del asistente Claude, anunció que destinará el 5 % de sus acciones a un Fondo de Beneficio Público, sujeto a la aprobación de sus accionistas, con un 2 % adicional por cada aumento del 50 % en la valuación de la compañía. El fondo será una sociedad de propiedad exclusiva de la empresa, hará donaciones y transferencias directas a poblaciones afectadas, no financiará actividades políticas y sus criterios de asignación y de gobierno se conocerán “en los próximos meses”. Todo esto, mientras la compañía prepara una salida a la bolsa que se anticipa como una de las mayores de la historia.¹

Venimos siguiendo este tema en nuestras exposiciones y publicaciones,² con más énfasis desde que el Papa León XIV publicó la encíclica Magnifica Humanitas.³

ANALIZANDO LO QUE SE DICE…Y LO QUE NO

Por eso conviene leer el anuncio por lo que dice, pero siguiendo las recomendaciones del Pontifice, advertir lo que no dice.

Lo que no dice es lo decisivo:

1. No hay monto: el 5 % de una empresa que todavía no cotiza, es un porcentaje de un número que ella misma fijará en la bolsa.
2. No hay mecanismo: quién decide a quién se asiste, con qué criterios, con qué derecho de apelación.
3. No hay control independiente: la sociedad que administra el fondo pertenece a la misma empresa y rinde cuentas a sus accionistas, no a los beneficiarios.
4. No hay plazos. Y el aporte crece con la valuación, de modo que el beneficio público queda atado al precio de la acción.

La única regla concreta es negativa, no hacer lobby, y es una autolimitación que nadie verifica. El propio director ejecutivo habló de una crisis de confianza alrededor de la inteligencia artificial. La respuesta fue un anuncio, no un mecanismo.

ADVERTENCIAS

Recurriendo a la base del documento eclesial, podemos decir que nada de esto es nuevo para la Doctrina Social de la Iglesia (DSI), que hace más de un siglo advierte sobre la concentración del poder económico en pocas manos. La encíclica lo lleva al terreno digital con una exactitud que parece escrita para este caso. En el párrafo 95 afirma que, cuando un poder de esa magnitud se concentra en pocas manos, “tiende a hacerse opaco y a eludir el control público”. En el 105 define la rendición de cuentas como poder identificar quién responde por una decisión, motivarla, controlarla, cuestionarla y remediar el daño [§ 105]. En el 106 sostiene que no basta invocar genéricamente la ética y pide marcos jurídicos, vigilancia independiente, educación de los usuarios y una política que no renuncie a su tarea [§ 106]. En el 107 advierte que quien controla la inteligencia artificial impondrá su propia visión moral, y que de nada serviría una máquina más moral si esa moral la deciden unos pocos [§ 107]. En el 108 señala que las comunidades no pueden quedar reducidas a destinatarias de decisiones tomadas en otro lugar [§ 108]. Un fondo propio, sin monto ni auditor, que transfiere recursos a poblaciones que la empresa elige, es exactamente esa escena.

Lo que faltaría para que el anuncio fuera un compromiso también está anticipado en la carta pastoral, en el párrafo 71: auditorías independientes, transparencia y herramientas de apelación [§ 71]. La empresa prometió un informe de beneficio público para las próximas semanas. Si trae un monto o una fórmula, criterios públicos, un gobierno con mayoría independiente, auditoría externa y plazos, lo que señalamos, cambia. Si no los trae, el anuncio se habrá juzgado solo.

¿QUE HACEMOS?

Mientras tanto, la gente usa cada día soluciones rápidas y útiles de una inteligencia artificial sin responsable detrás. ¿Qué puede hacer el ciudadano común? Más de lo que parece, en tres planos. En la casa, escribir las reglas propias antes de que las escriba la plataforma: qué se usa, a qué edad, con qué límites. En la empresa, una carta de gobierno de una página: qué no se delega a la máquina, quién supervisa, quién responde. Como ciudadano, exigir lo que pide el párrafo 106, vigilancia independiente y normas, en lugar de conformarse con autolimitaciones. y en los tres planos, no delegar el juicio.

El reclamo que proponemos es volver a ser responsables, permanentemente y cotidianamente, de lo que se tiene y de lo que se usa.

1 Infobae.

2 PALMMA MARCELO.https://www.amazon.com/-/es/Humanos-Gran-Reserva-inteligencia- artificial/dp/B0H85CLD5D/ref=sr_

1_1?crid=OYMKLMTLMGUT&dib=eyJ2IjoiMSJ9.muOIum4MYN8hZLyY7Id-DuJ0LGjSp03rJGymjs29fGE.wLGdzLlNgnK8NLnGPcy

kQc49C9RNlIz5fKpn2Tguze8&dib_tag=se&keywords=humanos+gran+reserva&qid=1785940541&sprefix=humanos+gran+r%2Caps%2C410&sr=8-1

3 Domingo R. Godoy, Marcelo Palma y otros. MAGNIFICA HUMANITAS. DESAFÍOS Y COMPROMISOS ANTE LA IA. Editorial de Economía Social. Mendoza. 2026.i