Un chatbot no necesita tener razón para parecer brillante: basta con escribir como un humano, con sus vacilaciones, sus reformulaciones y sus “Hola”. Problema: esta UX aumenta la ilusión y luego transforma la primera alucinación en una bofetada monumental, especialmente cuando la máquina omite un filtrado básico que cualquier software puede realizar. La verdadera batalla de GenAI se desarrolla, por tanto, en la interfaz: aprender a decir “no sé”, detectar respuestas cuestionables y replantear al usuario en tiempo real.
La inteligencia es, por naturaleza, muy difícil de demostrar. Desde pequeños estamos entrenados para juzgar por las apariencias y creer sólo en lo que vemos. Tan pronto como alguien adopta ciertos códigos, modales y discursos, concluimos que la función o cualidad que afirma es efectivamente suya. Así que asumimos que lo que parece inteligente realmente lo es.
Este es también el postulado de la prueba de Turing: si una máquina puede engañar a un humano haciéndole creer que es humano, entonces es necesariamente inteligente. Por lo tanto, la IA consiste principalmente en imitar la inteligencia para adoptar su apariencia.
UX, o el arte de llamar a las cosas por su nombre
Aquí es donde entra en juego la UX (experiencia de usuario). De hecho, la UX influye en la percepción que tiene el usuario de cualquier aplicación de IA. Un punto de acceso API no parece inteligente para la mayoría de las personas, pero una interfaz de chatbot sí, aunque los dos sean equivalentes.
Para entender qué hace que un chatbot parezca inteligente, hay que intentar olvidar por un momento la calidad de sus respuestas. De hecho, como dijo Alan Turing: “ El resultado de la prueba no se basaría en la precisión de las respuestas proporcionadas por la máquina, sino únicamente en su grado de similitud con las respuestas humanas. » y está claro que los humanos a menudo dan respuestas equivocadas.
Lo primero que hay que destacar es su tiempo de respuesta: no se muestra todo a la vez. De hecho, hace pausas entre partes de la respuesta, como si dudara, buscando la mejor manera de desarrollar su punto, tal como lo hacemos en nuestras conversaciones diarias. En realidad, el modelo de lenguaje (LLM) no se detiene porque dude, sino simplemente porque necesita tiempo para calcular la secuencia de palabras más probable.
Pero ¿cuál es la diferencia con nuestro cerebro? Sentimos que estas pausas son una prueba de que estamos pensando en la respuesta más relevante posible. Inconscientemente, ¿nuestro cerebro simplemente no calcula también la palabra que es más probable que aparezca? De cualquier manera, estas pausas hacen que el chatbot parezca inteligente.
La segunda observación a hacer es la forma en que el chatbot reformula sus palabras. En lugar de proporcionarnos los datos originales en bruto, produce una nueva oración, y es nuestra tendencia natural a antropomorfizar lo que nos hace creer que si reformula es porque comprende.
En realidad, no lo entiende. Nuevamente, si reformula es sólo porque los LLM pueden considerarse algoritmos de compresión: acortan el texto, con una pérdida de información, lo que los hace incapaces de restaurar la formulación inicial.
Hay, pues, muchos otros detalles, como su forma de decir «Hola» (ninguna de las bases de datos SQL más utilizadas dice «Hola»), su manejo de los emojis, su forma de adaptarse al estado de ánimo del usuario, etc., que hacen que el chatbot parezca inteligente.
Descubrimos que la experiencia general del usuario con IA generativa (GenAI) es muy eficaz para crear la ilusión de inteligencia, lo que genera confianza en el usuario. Sin embargo, es un arma de doble filo.
La estupidez es la característica de la inteligencia.
La inteligencia y la estupidez son dos caras de la misma moneda porque la estupidez sólo se aplica a lo que se supone que es inteligente. Si una piedra no entiende una pregunta, no es estúpida, es sólo una piedra. Si un gato pide salir, su dueño abre la puerta y él no sale, será más probable que lo llame estúpido (sobre todo si lo despierta a las 3 de la madrugada para eso), porque tiene cierta expectativa de inteligencia por parte de su gato.
Todo es cuestión de esperar. Cuanto mayor sea la expectativa, mayor será el riesgo de quedar decepcionado. Acabamos de explicar que la UX en torno a GenAI tiende a desarrollar expectativas muy altas en los usuarios (en parte debido al antropomorfismo y los malentendidos comunes sobre la IA, y en parte porque su equipo de UX está haciendo bien su trabajo). Por tanto, el riesgo de decepción es alto.
Esta decepción será segura porque la IA no es inteligente. Ella simplemente hace que parezca que lo es. Supongamos que el usuario olvidó mencionar la fecha de hoy en su mensaje, se lo pasará genial charlando con la IA y luego le preguntará: «¿Qué más ha pasado desde ayer?» «. Entonces es muy probable que la IA produzca una respuesta incorrecta, porque no sabe la fecha de hoy. Además, ella no es consciente de que no lo sabe, por lo que simplemente inventará algo y parecerá estúpida.
La decepción será inmensa, porque el usuario tenía la sensación de estar charlando con un par (o casi), aunque era consciente de que no era así. Todos los usuarios saben que cualquier software que utilizan a diario es capaz de filtrar por fecha: ven, por tanto, un sistema «humano» incapaz de comprender una pregunta sencilla, pero también un software incapaz de realizar una tarea básica de filtrado.
¿Cómo gestionar las expectativas de los usuarios?
Al crear la UX en torno a GenIA, es importante mantener un delicado equilibrio entre hacer que una aplicación sea confiable y no hacer demasiadas promesas falsas.
Lo primero que debe hacer es asegurarse de que el usuario comprenda las limitaciones del sistema. Puede hacerlo obligando a la IA a decir «No sé» cuando no sabe la respuesta, o «No estoy seguro, pero creo…» cuando tiene dudas.
Luego, hay que intentar identificar las respuestas erróneas, en particular monitorizando las propuestas por el chat y utilizando un modelo de evaluación, como REMi. También podemos intentar detectar errores en tiempo real para proponer soluciones alternativas. Por ejemplo, resalte los términos de la pregunta que parezcan confusos para el LLM o, en el caso del RAG (Retrieval-Augmented Generation), explique que el contexto no parece lo suficientemente relevante y proponga otras preguntas más coherentes.
Es fundamental ser transparente: el sistema no es mágico. De hecho, es un asistente inteligente, pero sigue siendo un asistente. El usuario es quien dirige el proceso: por tanto, debe ser consciente de que no puede seguir ciegamente un GPS que le llevaría a un callejón sin salida.
En conclusión, la UX en un proyecto GenAI se basa conjuntamente en técnicas de IA (prompt, frameworks de evaluación, etc.) y en interacciones con la interfaz. Es a la vez una tarea compleja, porque implica una combinación de habilidades, colaboración interdisciplinaria y una misión muy gratificante, ya que es la clave del éxito de un proyecto de IA.
____________________________
Par Eric BrehaultIngeniero de software, jefe chez Software de progreso
Lea también:
Experiencia de usuario (UX) y lugar de trabajo: una cuestión estratégica en la era de la IA y los datos…
Cómo reinventar la experiencia de los empleados en la era de la IA…
IA agente: transformando la experiencia del cliente y la garantía del servicio en las telecomunicaciones…
De la experiencia del desarrollador a la experiencia del agente: el futuro de la IA en las finanzas
Datos de marketing cuando eres mayorista o revendedor de TI, redes y telecomunicaciones
[
