El desafío de detectar textos generados por IA
La Inteligencia Artificial (IA) ha experimentado un avance notable en los últimos años, especialmente en el ámbito de la generación de texto. Este progreso, sin embargo, ha traído consigo un desafío significativo: la dificultad de detectar textos generados por IA. Aunque existen herramientas como GPTZero para ayudar en esta tarea, estas no están exentas de limitaciones.
En febrero de 2023, Reece Rogers, de WIRED, abordó las complejidades de la detección de texto de IA, destacando el impacto de la IA en los escritores en línea. Según Rogers, GPTZero se enfoca en la variación y aleatoriedad del texto, con la posibilidad de marcar textos con patrones de palabras específicos. No obstante, esta estrategia no es infalible.
El impacto de la IA en el ámbito educativo y empresarial
En septiembre del mismo año, Christopher Beam y Kate Knibbs, también de WIRED, profundizaron en la expansión de GPTZero y el impacto de la IA en el trabajo escolar. Beam señaló que los estudiantes están utilizando la IA para completar tareas, mientras que Knibbs argumentó que las empresas tienen la responsabilidad de señalar productos generados por IA. Knibbs también abordó el debate sobre la detección de IA y el potencial de falsos positivos, especialmente en el caso de libros generados por IA en Amazon.
La detección de IA en el ámbito académico y sus limitaciones
En agosto de 2023, Amanda Hoover, de WIRED, informó sobre la aparición de textos generados por IA en revistas académicas, lo que ha llevado a la estrategia de desarrollar herramientas de detección especializadas. Sin embargo, en octubre de 2023, Knibbs señaló la debilidad de las marcas de agua para la detección de IA.
En abril de 2024, Hoover volvió a abordar el tema, esta vez centrando su atención en el uso de Turnitin para detectar trabajos de aula generados por IA. No obstante, advirtió sobre los riesgos de falsos positivos y el sesgo contra los aprendices de inglés.
Estos problemas actuales y futuros, como el problema de los falsos positivos y el sesgo contra los no hablantes nativos de inglés, subrayan la necesidad de mejorar los algoritmos de detección de IA. A medida que la IA continúa evolucionando, también debe hacerlo nuestra capacidad para detectar y manejar su impacto en nuestras vidas diarias.
Susana es una profesional destacada en marketing y comunicación, creadora de contenido y experta en SEO. Es licenciada en Psicología por la Universidad de Santiago de Compostela y cuenta con un máster en Marketing y Comportamiento del Consumidor de la Universidad de Granada y la Universidad de Jaén. Además, ha compartido sus conocimientos a través de conferencias y workshops.
Con amplia experiencia en estrategias de marketing y comunicación, Susana ha logrado optimizar la visibilidad y el posicionamiento de las marcas a través de técnicas de SEO.
