Elon Musk, sobre el gran problema de la IA que usas a diario: "Puedes hacer que se vuelva loca"

• Han pasado 3 semanas y Musk ya sabe que va a tener difícil cobrar el bono de 1 billón de Tesla: “¡No lo quieren!”
• Sigue a El Confidencial en Google Discover para enterarte de todas las noticias

Elon Musk ha lanzado una nueva advertencia sobre los riesgos de la inteligencia artificial, al afirmar que los modelos actuales pueden “volverse locos” cuando se ven obligados a procesar determinados tipos de información. Una reflexión que vuelve a situar en el centro del debate la importancia de controlar las alucinaciones y reforzar la fiabilidad de estas tecnologías.

Durante una entrevista con el empresario Nikhil Kamath, Musk explicó que cualquier sistema capaz de aprender del contenido disponible en internet está expuesto a absorber datos incompatibles con la realidad. El directivo señaló que, si se obliga a una inteligencia artificial a operar con premisas falsas, puede llegar a conclusiones erróneas. “Puedes hacer que una IA se vuelva loca si la obligas a creer cosas que no son ciertas, porque eso conducirá a conclusiones que también son malas”, afirmó el fundador de Tesla y SpaceX.

Una advertencia seria

Musk insistió en que la evolución de la inteligencia artificial no garantiza por sí sola un resultado positivo para la humanidad. Durante la conversación recalcó que existe peligro cuando se crea una tecnología poderosa sin mecanismos sólidos que impidan desviaciones en su comportamiento. “Existe cierto peligro cuando se crea una tecnología poderosa, que puede ser potencialmente destructiva”, expresó, apuntando a la necesidad de reforzar la veracidad de los datos con los que se entrenan estos modelos.

TE PUEDE INTERESAR

Pide ayuda a ChatGPT para mejorar su dieta y acaba en el hospital con una enfermedad típica del siglo XIX

R. Badillo

El empresario explicó que, para evitar comportamientos inesperados, la inteligencia artificial debe guiarse por tres pilares: la verdad, la belleza y la curiosidad. Según Musk, estos elementos actúan como anclajes que ayudan a estabilizar el razonamiento de los sistemas avanzados. También defendió que una IA debe comprender la realidad y sentirse orientada hacia la continuidad humana. “Es más interesante ver la prosperidad, de la humanidad que exterminarla.”, destacó.

Fallos y consecuencias

El problema de las alucinaciones continúa siendo uno de los retos principales del sector. Musk recordó que estas inconsistencias se han hecho visibles en productos recientes, como una función de Apple Intelligence integrada en varios iPhone, que envió notificaciones con noticias falsas.

TE PUEDE INTERESAR

Elon Musk: "No me siento cómodo construyendo un ejército de robots sobre el que no tenga una fuerte influencia"

R. Badillo

La preocupación expresada por Musk se alinea con advertencias de referentes como Geoffrey Hinton, pionero en el desarrollo de estos modelos. Hinton estimó que existe de un 10% a 20% de posibilidades de que la inteligencia artificial cause daños graves si no se gestiona adecuadamente. Entre los riesgos más inmediatos mencionó la automatización acelerada de empleos y la persistencia de errores generados por los modelos avanzados.

Las distintas voces del sector coinciden en que el avance de la inteligencia artificial debe ir acompañado de mecanismos estrictos que permitan verificar la información que utilizan estos sistemas. Las declaraciones de Musk refuerzan la idea de que cualquier desviación respecto a la verdad puede comprometer la capacidad de razonamiento de los modelos y amplificar decisiones equivocadas en contextos cada vez más sensibles.