Los dos errores garrafales que ChatGPT comete siempre y el motivo por el que no sabe corregirlos
Lo más llamativo es que estos fallos no son anecdóticos, sino estructurales. "OpenAI sabe perfectamente que esto pasa y no han sido capaces de arreglarlo"
:format(jpg)/f.elconfidencial.com%2Foriginal%2F215%2F0e8%2F30d%2F2150e830d0768a07213dc3af787ba65f.jpg)
ChatGPT sigue repitiendo ciertos fallos visuales una y otra vez, incluso aunque sus creadores son plenamente conscientes de ellos. Así lo asegura el profesor Ned Block, filósofo y psicólogo en la Universidad de Nueva York, durante una entrevista con el divulgador Robinson Erhardt en YouTube. Según explica, ni siquiera el entrenamiento por refuerzo ha conseguido ponerles solución.
Block es uno de los pensadores más reconocidos en filosofía de la mente y ciencias cognitivas. Ha trabajado durante décadas en temas relacionados con la conciencia, la percepción y los límites entre ver y pensar. Desde su cátedra en NYU, ha sido una figura clave en el debate sobre lo que realmente significa “pensar” para una inteligencia artificial. Su último libro, The Border Between Seeing and Thinking, aborda precisamente esa frontera que los modelos como ChatGPT aún no logran cruzar.
@robinsonerhardt Ned Block: Why ChatGPT Struggles to Generate Accurate Watch Face Images Full Episode: https://youtu.be/wM1fcZr0iSk Main Channel: https://www.youtube.com/@robinsonerhardt Robinson's Podcast #239 - Ned Block: Consciousness, Artificial Intelligence, and the Philosophy of Mind Ned Block is Silver Professor at New York University in the Departments of Philosophy and Psychology, where he works on the philosophy of mind, the philosophy of neuroscience, and cognitive science. In this episode, Robinson and Ned discuss some of the titans he studied under, ChatGPT and the nature of artificial intelligence, the Turing Test, androids, consciousness, the connection between seeing and thinking, blindsight, change blindness, and more. Ned’s most recent book is The Border Between Seeing and Thinking (OUP, 2023). Ned’s Website: https://www.nedblock.us The Border Between Seeing and Thinking: https://a.co/d/fqVb7gj Robinson's Website: http://robinsonerhardt.com Robinson Erhardt researches symbolic logic and the foundations of mathematics at Stanford University.
♬ original sound - robinsonerhardt
¿Cuáles son esos errores que comete siempre ChatGPT? El primero aparece si se le pide un dibujo de un reloj que marque una hora como las 12:03 o las 6:28, momentos en los que las agujas están muy juntas. Lo que devuelve, según Block, es siempre lo mismo: 10:10. ¿El motivo? “Las imágenes de relojes en internet están dominadas por las 10:10 porque es la disposición más atractiva”, explica. Esa posición de las manecillas es la favorita en anuncios y catálogos porque no tapa el logotipo y transmite simetría.
El segundo error ocurre cuando se pide una persona escribiendo con la mano izquierda, algo que para la IA sigue siendo difícil de representar. “Siempre obtienes una mano derecha”, asegura Block, que confiesa haber probado con muchos trucos para conseguir una imagen de alguien escribiendo como zurdo. “He podido lograrlo, pero no ha sido fácil”, añade.
Lo más llamativo es que estos errores no son anecdóticos, sino estructurales. “OpenAI sabe perfectamente que esto pasa y no han sido capaces de arreglarlo”, advierte Block. “El entrenamiento por refuerzo no ha funcionado, probablemente porque habría que reforzar demasiadas otras horas además de las 10:10”, añade. La explicación tiene que ver con el sesgo que la inteligencia artificial hereda de las imágenes más frecuentes en internet.
Block insiste en que estos fallos revelan límites fundamentales: la IA aún no sabe cuándo una imagen es una excepción o una regla, y eso complica su capacidad de razonar. Aunque sea capaz de generar resultados sorprendentes, los errores más simples siguen siendo, a veces, los más difíciles de corregir.
ChatGPT sigue repitiendo ciertos fallos visuales una y otra vez, incluso aunque sus creadores son plenamente conscientes de ellos. Así lo asegura el profesor Ned Block, filósofo y psicólogo en la Universidad de Nueva York, durante una entrevista con el divulgador Robinson Erhardt en YouTube. Según explica, ni siquiera el entrenamiento por refuerzo ha conseguido ponerles solución.