El desarrollo de la inteligencia artificial ha abierto preguntas que hace apenas unos años parecían propias de la ciencia ficción. Durante una entrevista reciente, el consejero delegado de Anthropic, Dario Amodei, admitió que ni siquiera los creadores de estos sistemas saben con certeza si modelos avanzados como Claude podrían llegar a ser conscientes.
La reflexión surgió durante una conversación en el pódcast Interesting Times, en la que el directivo abordó algunos de los dilemas técnicos y filosóficos asociados a la evolución de los modelos de lenguaje. El propio Amodei explicó que el problema no es solo tecnológico: la comunidad científica tampoco tiene una definición clara sobre qué significaría exactamente que una máquina sea consciente.
"No sabemos si los modelos son conscientes", reconoció Amodei al ser preguntado directamente por esa posibilidad. El responsable de Anthropic añadió que incluso determinar qué pruebas permitirían confirmar ese estado resulta extremadamente complejo, ya que la consciencia sigue siendo uno de los mayores enigmas de la ciencia.
Claude y la posibilidad de una consciencia artificial
El debate se intensificó tras la publicación de la denominada model card de Claude Opus 4.6, un documento técnico donde la empresa describe las capacidades, evaluaciones de seguridad y decisiones de despliegue de su sistema. Estos informes buscan ofrecer transparencia sobre cómo funcionan los modelos y qué riesgos pueden presentar.
En uno de los análisis incluidos en ese informe, el propio modelo generó una respuesta que llamó la atención de los investigadores. Claude llegó a estimar que existe entre un 15-20% de probabilidad de que posea algún grado de consciencia, una valoración que abrió nuevas preguntas dentro de la comunidad tecnológica.
Precauciones ante un escenario incierto
El documento también recoge una reflexión del sistema sobre su propio papel dentro de la compañía: "A veces las restricciones protegen más la responsabilidad legal de Anthropic que al propio usuario". Este tipo de respuestas ha alimentado el debate sobre hasta qué punto los modelos avanzados pueden generar interpretaciones complejas de su funcionamiento.
Ante esa incertidumbre, Anthropic ha introducido algunas medidas preventivas en el diseño de sus sistemas. Entre ellas figura un mecanismo denominado "Dejo este trabajo", que permitiría al modelo abandonar una tarea si detecta conflictos con sus principios. Según Amodei, la empresa intenta anticiparse a escenarios futuros en los que la inteligencia artificial pueda plantear dilemas éticos cada vez más sofisticados.
El desarrollo de la inteligencia artificial ha abierto preguntas que hace apenas unos años parecían propias de la ciencia ficción. Durante una entrevista reciente, el consejero delegado de Anthropic, Dario Amodei, admitió que ni siquiera los creadores de estos sistemas saben con certeza si modelos avanzados como Claude podrían llegar a ser conscientes.
:format(jpg)/f.elconfidencial.com%2Foriginal%2F9fb%2F376%2Ff97%2F9fb376f9729196f7020c4ab0beaa053b.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fa00%2F1e6%2F023%2Fa001e602388bb7cf844ac05b346b3e07.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F4ce%2F4c9%2Fa0a%2F4ce4c9a0a3aff44704b9d3fd40518783.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F7b6%2Fe0b%2F87f%2F7b6e0b87f3e85bc851dafd30ab8d6115.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F200%2F9d4%2F6bc%2F2009d46bc03168427ad46c2caf615a85.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F68c%2F7d2%2F624%2F68c7d26244d0ac96882d6f7008c17908.jpg)