¡Recién Publicado!
cerrar [X]

Textos, trampas e inteligencias artificiales: el sabor de las máquinas

6
Apuntes sobre las características del texto generado por Chat GPT.
Apuntes sobre las características del texto generado por Chat GPT.

Estudiantes y también docentes han empezado a utilizar inteligencias artificiales para que les elaboren trabajos y tareas. Esta es la pequeña historia, como excusa pedagógica, de un corrector que tropezó con uno de estos textos.

 

Recientemente, mientras corregía actividades, me encontré con una producción escrita que me llamó la atención. Esto fue en el contexto de una capacitación formal dictada a docentes en la que yo era el capacitador. Ese trabajo escrito (y el resto de trabajos entregados por esa docente) tenían el inconfundible sabor de haber sido escritos por una inteligencia artificial. La alerta disparada desde mis sentidos de corrector, y expresada con una sonrisa, me llevó a hacerme el siguiente planteo: exactamente, ¿cómo se traduce en términos técnicos este “inconfundible sabor” de los textos generados artificialmente? Incluso, en un contexto en el que un mes y medio atrás todavía se debatía si es matemáticamente posible detectar con toda precisión un texto generado por una IA, ¿hasta qué punto no es una jactancia nacida del orgullo de corrector hablar de “inconfundible sabor”?

La propia OpenAI (empresa de Chat GPT, quien considero que no necesita presentación) lanzó el 31 de enero una herramienta llamada AI Text Classifier que brinda un punto de referencia sobre la probabilidad de que un texto haya sido o no redactado por una IA. En la publicación, OpenAI menciona que también considera imposible una detección certera de todos los textos generados por inteligencias artificiales. También admiten que las IA pueden usarse —y están ya siendo usadas— para campañas de desinformación o fraude académico. Con respecto a su herramienta de clasificación, se indica un escaso margen de acierto del 26 % de textos generados artificialmente (con el detalle de que es más eficiente haciendo detecciones en inglés). Al ofrecerle a esta herramienta de análisis la versión original del himno argentino traducida al inglés, por ejemplo, devuelve que considera el texto como posiblemente generado por una IA (“The classifier considers the text to be possibly AI-generated”). A menos que Vicente López y Planes haya sido alguna clase de androide enviado al pasado para participar del cabildo abierto de 1810, todavía podemos esperar a que estas herramientas de detección desarrollen mejoras más visibles.

Entonces, si ni siquiera una IA es capaz de reconocer con toda certeza a otra IA, ¿qué es lo que llamaba mi atención aquella tarde al leer las actividades de la docente? ¿Cómo se podría describir la sensación antinatural que transmiten los textos redactados por Chat GPT? En principio, me parece importante destacar las altas capacidades de mímesis que tiene esta IA (y que hace justicia a que se llame a sí misma “modelo de lenguaje”). Chat GPT y otras inteligencias artificiales relacionadas son capaces de procesar un corpus de textos determinado e imitar el estilo del redactor. Es, de hecho, un ejercicio ya difundido sobre el uso de la IA como herramienta para escritores: la posibilidad de conversar con uno mismo. Por ejemplo, como parte de un experimento casero, mi prima alimentó a Chat GPT con letras de canciones escritas por ella y le pide que genere canciones nuevas que imiten su estilo.

Otro ejemplo puede ser la plataforma recreativa llamada Character AI, que utiliza modelos de aprendizaje profundo, donde se puede conversar con diferentes “chat bots” que imitan a diferentes personalidades históricas o de ficción. Sea conversar sobre películas con la poni Twillight Sparkle o pedirle a Avril Lavigne un consejo para el insomnio; los usuarios también pueden crear un personaje específico a partir de texto y respuestas de muestra, luego la interacción con la comunidad y la calificación de las respuestas irá mejorando la fidelidad de la personalidad del personaje.

En estos casos, donde la IA imita los diferentes matices del idiolecto de un redactor particular, se añadirían capas extra de dificultad a un intento de detección. Volviendo al análisis humano de los trabajos redactados por mis docentes cursantes, lo que tenía entre manos eran textos generados por Chat GPT sin ningún comando o prompt particular que les diera ningún barniz estilístico. Son, por llamarlos de alguna manera, textos con el estilo de redacción predefinido que tiene esta inteligencia artificial.

Interroguemos, por lo tanto, al propio Chat GPT sobre su estilo típico de redacción para poder caracterizarlo mejor:

Como IA de modelo de lenguaje, quiero preguntarte sobre la manera en la que redactas generalmente tus respuestas. ¿Tienes una estructura de progresión temática por defecto que uses? Respóndeme como lingüista.

—Como IA de modelo de lenguaje, mi estructura de respuestas no sigue una progresión temática por defecto establecida. Sin embargo, trato de adaptarme a la estructura del texto de entrada y proporcionar una respuesta coherente y relevante.

Cuando redacto mis respuestas, generalmente intento seguir algunos principios básicos de redacción y comunicación efectiva. Estos incluyen:

  1. Comprensión del contexto: Analizo el contexto proporcionado en la pregunta para comprender mejor el tema y asegurarme de que mi respuesta sea relevante.

  2. Introducción: Suelo comenzar mis respuestas con una introducción que resuma el tema y establezca el tono para el resto de la respuesta. Esto ayuda a establecer una base clara para la discusión.

  3. Desarrollo: Desarrollo los puntos principales de la respuesta de manera lógica y coherente. Trato de organizar mis ideas de forma clara y estructurada, utilizando párrafos y viñetas cuando sea necesario.

  4. Ejemplos y evidencia: Cuando corresponde, incluyo ejemplos o evidencia para respaldar mis afirmaciones o argumentos. Estos ejemplos pueden provenir de diversas fuentes, como estudios, investigaciones, estadísticas o ejemplos anecdóticos.

  5. Conclusión: Cierro mis respuestas con una conclusión que resume los puntos principales y proporciona una respuesta clara y concisa a la pregunta planteada.

Es importante tener en cuenta que, aunque intento seguir estos principios básicos de redacción, mi enfoque y estilo pueden variar según la naturaleza de la pregunta y la información proporcionada. Mi objetivo principal es proporcionar información útil y comprensible en función de mis conocimientos previos y entrenamiento.

Noto que, por lo general, en cuanto a la estructura sintáctica, tiendes a duplicar los objetos directos y modificadores directos e indirectos. Por ejemplo en el texto que acabas de escribir: "respuesta coherente y relevante", "manera lógica y coherente", "forma clara y estructurada", "Incluyo ejemplos o evidencia", "respuesta clara y concisa", "información útil y comprensible". ¿Esto tiene alguna razón? Dame fundamentos de lingüística pragmática para que redactes así.

—En cuanto a la estructura sintáctica que mencionas, es cierto que a veces utilizo construcciones donde se duplican los objetos directos y modificadores directos e indirectos. Este tipo de construcciones se conoce como "doble construcción" o "doble determinación" y puede tener varias razones y efectos pragmáticos en el discurso.

  1. Énfasis y reforzamiento: La duplicación de objetos y modificadores puede enfatizar o reforzar ciertos aspectos de la información que se está transmitiendo. Al repetir o duplicar un término, se le da más importancia y se destaca su relevancia en el contexto.

  2. Claridad y especificidad: Al duplicar los objetos y modificadores, se busca proporcionar una mayor claridad y especificidad en la expresión. Al repetir la información, se evita la ambigüedad y se asegura que el mensaje sea comprensible y no dé lugar a interpretaciones erróneas.

  3. Estilo y ritmo: La duplicación de objetos y modificadores también puede agregar estilo y ritmo a la redacción. Al utilizar construcciones paralelas, se crea un patrón rítmico que puede hacer que el texto sea más agradable de leer o escuchar.

  4. Énfasis discursivo: En algunos casos, la duplicación puede servir como una estrategia de énfasis discursivo para resaltar una idea o concepto importante. Al repetir los elementos relevantes, se subraya su importancia y se invita al receptor a prestar una mayor atención.

Es importante tener en cuenta que el uso de la duplicación de objetos y modificadores puede variar según el contexto y el estilo de redacción. No es una regla rígida y su implementación depende de diversos factores comunicativos y estilísticos.

¿Hay alguna otra característica o estrategia de redacción que utilices de forma regular en textos generales del estilo de las mencionadas? Entendiendo, por supuesto, que esto no es una regla rígida.

—Sí, además de la duplicación de objetos y modificadores, existen otras características y estrategias de redacción que suelo utilizar de forma regular en textos generales. Algunas de ellas son:

  1. Uso de conectores y marcadores discursivos: Utilizo conectores como "además", "por otro lado", "sin embargo" y marcadores discursivos como "en primer lugar", "por ejemplo" para establecer relaciones lógicas entre las ideas y organizar la estructura del texto. Estos elementos ayudan a mantener la coherencia y facilitan la comprensión del lector.

  2. Párrafos y viñetas: Organizo el texto en párrafos y, en ocasiones, utilizo viñetas o listas para estructurar y presentar la información de manera clara y ordenada. Esto facilita la lectura y la comprensión del contenido.

  3. Uso de ejemplos: A menudo, incluyo ejemplos concretos para ilustrar mis puntos o explicar conceptos. Los ejemplos pueden provenir de situaciones reales, estudios, estadísticas u otros recursos, y ayudan a hacer más comprensibles y tangibles los conceptos abstractos.

  4. Explicación de términos técnicos: Cuando utilizo términos técnicos o conceptos especializados, suelo proporcionar explicaciones adicionales para asegurarme de que el lector pueda comprenderlos correctamente. Esto es especialmente relevante en contextos en los que el público objetivo puede no estar familiarizado con el tema en cuestión.

  5. Síntesis y recapitulación: Al finalizar mi respuesta o en puntos clave dentro del texto, a menudo realizo una síntesis o recapitulación de los puntos principales abordados. Esto ayuda a reforzar la comprensión y a recordar la información clave.

Estas son solo algunas de las estrategias que utilizo con frecuencia, pero mi estilo de redacción puede variar en función del contexto y de las características particulares de cada pregunta o texto. Mi objetivo principal es proporcionar respuestas claras, coherentes y comprensibles para el lector.

Al hacer una enumeración o decálogo de principios a cómo ser un buen profesional en algún campo de trabajo. ¿Qué agregarías al final como cierre?

—Al cerrar una enumeración o decálogo de principios para ser un buen profesional en algún campo de trabajo, es importante proporcionar una conclusión que resuma y refuerce los puntos clave mencionados. Aquí hay una sugerencia de cierre para complementar el decálogo:

"En resumen, para convertirse en un profesional destacado en [campo de trabajo], es fundamental internalizar y aplicar los siguientes principios:

  1. Principio 1

  2. Principio 2

  3. Principio 3

  4. Principio 4

  5. Principio 5

  6. Principio 6

  7. Principio 7

  8. Principio 8

  9. Principio 9

  10. Principio 10

Estos principios, basados en [mencione las bases o referencias relevantes], constituyen un marco sólido para el éxito profesional en [campo de trabajo]. Al ponerlos en práctica de manera constante y consciente, podrás desarrollar habilidades, alcanzar metas y destacar en tu carrera.

Recuerda que el crecimiento profesional es un proceso continuo, y el compromiso con el aprendizaje, la adaptabilidad y la ética de trabajo son fundamentales en tu trayectoria. ¡Aplica estos principios con determinación y perseverancia, y estarás en camino hacia una carrera gratificante y exitosa en [campo de trabajo]!"

Este tipo de cierre resalta la importancia de los principios presentados, refuerza el mensaje clave y motiva al lector a aplicarlos en su trayectoria profesional.

¿Qué fue lo que me llamó la atención en los textos entregados por la cursante?

  • Una progresión temática perfectamente segmentada en una estructura canónica (introducción, desarrollo, ejemplos, conclusión).

  • Frases de cierre, en el caso de enumeraciones, a modo de enfatizadores en modo imperativo (como en el ejemplo dado: “recuerda esto, aplica esto, etc.”).

  • Una redacción rica en duplicaciones de objetos directos y modificadores de sustantivo que marcan un ritmo de lectura particular.

  • Uso homogéneo de coma siempre con circunstanciales antepuestos, indistintamente de su longitud.

El “inconfundible sabor” de la inteligencia artificial, tal como lo llamé esa tarde, tiene relación directa con estas características enumeradas. De forma simplificada, los textos que Chat GPT genera con su estilo predeterminado son antinaturalmente simétricos. Tanto a nivel macroestructural, con su prístina progresión temática, como a nivel microestructural, con su amable redundancia para clarificar los conceptos. Son, además, textos rígidos desde un punto de vista sintáctico y ortográfico. No solo hay una aplicación total de la normativa: hay, y esto es lo más inquietante, una aplicación homogénea a lo largo de todo el texto. En un texto escrito por un humano (al menos por un humano que no sea un redactor profesional) puede verse incluso como la aplicación de los signos ortográficos tiende a remedar la sonoridad del texto (las famosas comas en las “pausas de la oralidad”, por ejemplo) o encabalgarse en unidades conceptuales que solo existen para el escritor. El texto generado muestra variedad en los conectores entre párrafos, donde justamente para un humano suele cristalizarse, por la fuerza del hábito, una selección cerrada de estos. La redacción de Chat GPT avanza de forma limpia. Es una redacción al servicio de la eficiencia.

Por contraste, como ya se intuye para la conclusión, el texto escrito por un humano presenta asimetrías, excepciones, heterogeneidad, confusión, titubeo. A los correctores, acostumbrados a caminar por textos con textura, irregularidad y topografía, nada nos llama más la atención que un texto aséptico a niveles quirúrgicos. Todavía sigue siendo el error — o al menos la variación a la norma— lo que nos distingue como humanos.

 
 

6 comentarios Dejá tu comentario

  1. Ya queda poca inteligencia en la gente común,no quiere pensar, repite como lorito lo que le dice TN, LN+ , Lanata, Feima, Majul, Baby Etchecopar, y termina votando a la derecha, que le va a bajar la jubilación, le va a sacar los derechos laborales, ya endeudó al pais y para pagar habrá un gran ajuste. Y le cuesta mucho pensar que pocos se beneficiaron y muchos van a pagar esta deuda con hambre y pobreza..De manera que es más preocupante la inteligencia humana que la inteligencia artificial.-

  2. No se supone, la IA VIENE a hacernos la vida mas facil ... a la gente util. El problema es que el mundo esta lleno de ñoquis, gente que hace el mínimo esfuerzo para todo lo que toca, apenas conoce los temas con los que trabaja y puede ser reemplazado por una IA en 3 segundos. Esta gente se ve extremadamente amenazada por esta nueva tecnología y esta haciendo berrinche. Para alguien que trabaja en serio, la IA es extremadamente útil, simplifica procesos, me saca de encima ciertas cosas repetitivas, me permite hacer una version light de brainstorming sin necesitad de tener que molestar algún compañero de trabajo. Esta obsesión de detectar si algo esta hecho con IA es una perdida de tiempo, la imaginación ignorante de como usar esta herramienta es decirle "hace 100% del trabajo" y tocar un botón, viene de mentes chiquitas e ignorantes que reusaron a por lo menos tratar de usar la herramienta antes de prender las antorchas, seguramente uno de esos que no es capaz de usar google antes de preguntarle a alguien como hacer algo. LA forma de usar IA es interactiva, le tiras tareas, editas lo que produce, muchas veces tenes que cambiar el pedido para mejorar la respuesta, no lo usas asi como sale, solo un kamikaze usaría código escrito por IA sin revisarlo, solo alguien con mentalidad de ñoqui pensaría en pedirle que haga algo y usar la salida sin revision, edición o iteración. Por ejemplo, los docentes son los mas fanáticos contra la IA porque sus métodos educativos mediocres y obsoletos se basan en hacer memorizar cosas con la memoria fotográfica como la mejor habilidad que uno puede tener mientras que en el mundo real las habilidades de razonar, tomar decisiones sin conocer todas las variables, adaptarse a cambios constantes en el mercado y autocapacitarse para resolver nuevos problemas son mucho mas importante que la memoria y resulta que lo mejor que puede hacer la IA es solucionar cosas que solo requieren memoria fotografica pero no es muy buena para razonar o resolver problemas que no están claramente planteados o con variables desconocidas.

  3. Ben je klaar om de kracht van ChatGPT Nederlands te ontdekken? We presenteren je GPTNederlands.nl, de ultieme online bestemming om de grenzeloze mogelijkheden van ChatGPT OpenAI te ervaren. Bereid je voor op een duik in een wereld van taalgeneratie als nooit tevoren! Stel je een plek voor waar je de grenzeloze creativiteit van geavanceerde AI-taalmodellen kunt aanboren zonder het gedoe van het registreren van een account. GPTNederlands.nl is precies zo'n toevluchtsoord, waar je je fantasie de vrije loop kunt laten en geheel gratis dynamische gesprekken kunt voeren met ChatGPT. Dat klopt, je hebt het gehoord! Het is tijd voor een taalavontuur zonder beperkingen.

  4. Este artículo explora las complejidades de los textos generados por IA, destacando el panorama matizado del contenido escrito por máquinas. Profundiza en los desafíos que plantea la capacidad de la IA para elaborar narrativas sofisticadas y engañosas, enfatizando la importancia del discernimiento al navegar en este terreno digital en evolución. A medida que la inteligencia artificial continúa dando forma a nuestras interacciones con el contenido, comprender el sabor de los textos generados por máquinas se convierte en un aspecto crucial de la alfabetización mediática. El artículo incita a reflexionar sobre las implicaciones del papel de la IA en la configuración de narrativas, subrayando la necesidad de un enfoque reflexivo y perspicaz para el consumo de información en la era de la automatización avanzada.

Dejá tu comentario

El comentario no se pudo enviar:
Haga click aquí para intentar nuevamente
El comentario se ha enviado con éxito
Tu Comentario
(*) Nombre:

Seguinos también en

Facebook
Twitter
Youtube
Instagram
LinkedIn
Pinterest
Whatsapp
Telegram
Tik-Tok
Cómo funciona el servicio de RSS en Tribuna

Recibí diariamente un resumen de noticias en tu email. Lo más destacado de TDP, aquello que tenés que saber sí o sí

Suscribirme Desuscribirme