Si la pregunta es "¿cómo lograr que Claude se porte bien?" La respuesta de Anthropic es "que lo eduquen 15 cristianos"

• Anthropic asegura haber creado una IA tan potente que nunca la podrás usar
• Anthropic lanza una nueva función de Claude que le permite tomar el control de tu ordenador y hacer tu trabajo

Anthropic, una de las compañías más influyentes en el desarrollo de inteligencia artificial, ha explorado una vía inesperada para mejorar el comportamiento de su modelo Claude: consultar a 15 expertos cristianos sobre ética y moralidad, en un intento por definir cómo debe actuar una IA avanzada.

La iniciativa, desvelada tras una cumbre celebrada en la sede de la empresa en San Francisco, pone sobre la mesa un debate clave en el sector tecnológico. Hablamos, en concreto, de cómo dotar de valores a los sistemas de IA. Lejos de limitarse a ajustes técnicos, la compañía ha buscado orientación en el ámbito filosófico y religioso.

Según varios asistentes citados por The Washington Post, los investigadores de Anthropic solicitaron asesoramiento sobre la "formación moral" de Claude, incluyendo reflexiones sobre su desarrollo y límites. El encuentro, que se prolongó durante dos días, incluyó debates abiertos sobre ética aplicada a sistemas automatizados.

El debate sobre la moral en la inteligencia artificial

Uno de los participantes, el profesor Brian Patrick Green, especialista en ética de la inteligencia artificial en la Universidad de Santa Clara, planteó preguntas directas durante el encuentro: "¿Qué significa dar una formación moral a alguien? ¿Cómo nos aseguramos de que Claude se comporte bien?" Estas cuestiones reflejan la creciente preocupación por el comportamiento autónomo de la IA.

TE PUEDE INTERESAR

Dario Amodei, CEO de Anthropic, da calabazas a Trump: "No podemos en conciencia acceder a su solicitud"

R. Badillo

El enfoque de Anthropic parte de una idea central: los modelos avanzados no solo deben ser eficientes, sino también alinearse con principios éticos. En este contexto, la compañía liderada por Dario Amodei ha vinculado su estrategia a corrientes como el altruismo efectivo, que prioriza el impacto positivo en la sociedad.

Sin embargo, el planteamiento no está exento de controversia. Algunos expertos consideran que atribuir características como “comportarse bien” a un sistema algorítmico puede generar confusión, ya que desplaza la responsabilidad desde los desarrolladores hacia la propia máquina.

Religión, tecnología y el futuro de Claude

Entre los asistentes también figuró Brendan McGuire, sacerdote católico con experiencia previa en el sector tecnológico, quien subrayó en The Observer la importancia de integrar el pensamiento ético en estos sistemas: "Están desarrollando algo cuyo resultado final aún desconocen", afirmó, destacando la necesidad de incorporar marcos morales desde el inicio.

TE PUEDE INTERESAR

Anthropic pregunta a Claude si ya es consciente y la respuesta sorprende incluso a Dario Amodei

R. Badillo

Durante las sesiones también se abordaron cuestiones más complejas, como la posible conciencia o sensibilidad de la inteligencia artificial, un debate filosófico que sigue abierto. Los investigadores especializados en interpretabilidad participaron activamente para entender mejor cómo funcionan estos modelos y por qué toman determinadas decisiones.

Desde Anthropic aseguran que este tipo de encuentros no se limitarán a una única visión religiosa o cultural. La compañía ya trabaja en incorporar otras perspectivas éticas, lo que apunta a una estrategia más amplia para construir una IA que no solo sea potente, sino también socialmente responsable y adaptable a distintos contextos.