Ni la empresa creadora de ChatGPT puede detectar los textos creados con su propia IA

OpenAI ha querido tranquilizar a sus críticos, pero el intento no ha salido muy bien. En respuesta a la preocupación de los profesores por la utilización de ChatGPT por parte de estudiantes para hacer los deberes o trabajos de clase, OpenAI ha lanzado una nueva herramienta que puede detectar el texto generado por inteligencia artificial. El problema es que este nuevo software deja mucho que desear, hasta el punto de que no son capaces ni de identificar cuándo un escrito ha sido generado por la propia ChatGPT.

TE PUEDE INTERESAR

Este veterano de la inteligencia artificial explica por qué ChatGPT es "peligrosamente estúpido"

Manuel Ángel Méndez

Es cierto que la desarrolladora de esta inteligencia artificial ha reconocido que este detector no era perfecto, pero sí que era un recurso muy valioso para los educadores, ya que permite detectar si un texto ha sido redactado por una persona o por un modelo de generación de texto como ChatGPT, desarrollado por la propia OpenAI. “El objetivo es ayudar a mitigar las afirmaciones falsas de que el texto generado por IA fue escrito por un humano”, ha explicado la compañía en un comunicado enviado a TechCrunch.

Sin embargo, lo cierto es que su tasa de éxito ronda el 26% y, además, tiene peor rendimiento cuando se trata de textos cortos o de idiomas que no sean el inglés. “Todavía tiene una serie de limitaciones, por lo que debe usarse como complemento de otros métodos para determinar la fuente del texto en lugar de ser la herramienta principal para la toma de decisiones”, reconocen enOpenAI.

ChatGPT, que se lanzó al público el pasado noviembre, permite generar textos coherentes y con una alta capacidad de redacción, por lo que se ha convertido en el instrumento perfecto para hacer todo tipo de tareas relacionadas con la escritura, algo que ha hecho saltar las alarmas en ámbitos educativos y académicos, donde se ha prohibido taxativamente su utilización.

A medida que ChatGPT es capaz de escribir todo tipo de textos, los maestros intentan adaptar sus aulas a la nueva tecnología y discuten cómo se puede usar la herramienta de manera ética. No obstante, los profesores han ideado sus propias formas de detectar la escritura de IA para evitar el engaño, como ejecutar sus indicaciones de ensayo a través de ChatGPT para tener un punto de referencia de cómo se vería si fuese generado por IA.