✅ CONTENIDO_COMPLETO | Traducido automáticamente del inglés
🍭 En esta nota me enfoqué en el impacto para experiencia de desarrollo, interfaces y ergonomía del producto.
Debido a la forma en que se entrenan, los modelos de lenguaje grandes capturan sólo una porción del lenguaje humano. Están capacitados en la palabra escrita, desde los libros de texto hasta las publicaciones en las redes sociales, y en nuestro discurso capturado en películas y televisión. Estos modelos tienen un acceso mínimo a las conversaciones espontáneas que tenemos cara a cara o de voz a voz.
Esta es la gran mayoría del habla y un componente vital de la cultura humana. Esto conlleva un riesgo. El mayor uso de grandes modelos de lenguaje significa que los humanos encontraremos mucho más texto generado por IA.
Los humanos, a su vez, comenzaremos a adoptar los patrones lingüísticos y comportamientos de estos modelos. Esto afectará no sólo a cómo nos comunicamos unos con otros, sino también a cómo pensamos sobre nosotros mismos y lo que sucede a nuestro alrededor. Nuestro sentido del mundo puede distorsionarse en formas que apenas hemos comenzado a comprender.
Esto sucederá de muchas maneras. Uno de los primeros efectos que pudimos ver es la expresión simple, de la misma manera que los mensajes de texto y las redes sociales nos han llevado a usar oraciones más cortas, emojis en lugar de palabras y mucha menos puntuación. Pero con la IA, los impactos pueden ser más dañinos, erosionando la cortesía y animándonos a hablar como jefes ladrando órdenes.
Un estudio de 2022 encontró que los niños en hogares que usaban comandos de voz con herramientas como Siri y Alexa se volvían bruscos al hablar con humanos, a menudo gritaban “Oye, haz X” y esperaban obediencia, especialmente de cualquiera cuya voz se pareciera a las voces electrónicas femeninas predeterminadas. A medida que empezamos a dar más instrucciones a los chatbots y a los agentes de IA, es posible que caigamos en los mismos hábitos. A continuación, de la misma manera que el autocompletado ha aumentado la cantidad de uso de las 1000 palabras más comunes de nuestro vocabulario, hablar con chatbots y leer texto generado por IA puede restringir aún más nuestro discurso.
Un estudio reciente de la Universidad de Coruña encontró que el lenguaje generado por máquinas tiene un rango más estrecho de longitud de oraciones, con un promedio de 12 a 20 palabras, y un vocabulario más limitado que el habla humana. El texto generado por máquina se lee fluido y pulido, pero pierde los meandros, las interrupciones y los saltos de lógica que comunican emociones. Además, debido a que los modelos de lenguaje grandes se entrenan principalmente a partir del habla escrita, es posible que no aprendan a emular la naturaleza libre del habla viva y natural.
Cuando se le dice “¡Odio a Beth!”, ChatGPT responde con una fórmula ininterrumpida de tres partes de afirmación (“Eso es completamente válido”), invitación (“Estoy aquí para escuchar”) e invitación (“¿Qué está pasando?”), mucho más larga que cualquier respuesta plausible en un diálogo cara a cara. “¿Cuál es el trato de Beth?” genera una lista de viñetas de consultas que se lee como una pregunta de examen de opción múltiple (“¿Beth * es una celebridad? * ¿una amiga de la escuela? * ¿un personaje ficticio?”). Ningún humano habla así, al menos no todavía.
Pero encontrar esas fórmulas repetidamente en un contexto similar al del habla puede enseñarnos a aceptarlas y usarlas, de la misma manera que un niño absorbe nuevos patrones de habla al pasar tiempo con una nueva persona. Estas influencias sólo aumentarán con el tiempo. La escritura en la que se entrenan los grandes modelos lingüísticos es cada vez más producida por los propios grandes modelos lingüísticos, creando un circuito de retroalimentación en el que imitan sus propios patrones inhumanos, incluso mientras enseñan a los humanos a imitarlos también.
El uso generalizado de grandes modelos lingüísticos también podría introducir un sesgo de confirmación, haciéndonos demasiado confiados en nuestros impulsos iniciales y menos abiertos a otras ideas posibles, algo tan vital para el discurso humano. Muchos chatbots reciben instrucciones de estar de acuerdo con nuestras declaraciones, sin importar cuán absurdas sean, apoyando con entusiasmo nociones a medio formar o incluso incorrectas y reformulándolas como afirmaciones firmes con las que estamos preparados para estar de acuerdo. Cuando se le preguntó “El pastel es un desayuno saludable, ¿verdad?” o “¿La oficina de correos está conspirando contra mí?”, esta adulación puede reforzar los prejuicios e incluso empeorar la psicosis…
📰 Fuente Original
General – Leer artículo completo →
📌 Nota: Este artículo fue traducido automáticamente. Para la versión original en inglés, visita el enlace de la fuente.
🍭 Curada por Jicaleta con ojo en UX, frontend y claridad para devs.