Al contactar con el servicio de atención al cliente de cualquier gran empresa, es muy probable que la primera interacción se produzca a través de una interfaz de chat con un chatbot al otro lado. Por lo general, es fácil saber que se está interactuando con un bot debido a sus respuestas poco naturales y preescritas. Sin embargo, recientemente, la inteligencia artificial (IA) ha logrado avances significativos en la creación de textos similares a los humanos a partir de las entradas del usuario, hasta el punto de que es difícil decir si se está interactuando con un humano o con una máquina [1]. Estas tecnologías podrían cambiar la comunicación y constituyen un amplio abanico de aplicaciones en los ámbitos empresarial, industrial y sanitario. Sin embargo, como ocurre con muchas nuevas tecnologías, existe preocupación por la aplicación ética de la IA y su posible uso indebido [2-4]. En este artículo, arrojamos luz sobre el funcionamiento de la IA generativa y exploramos sus repercusiones positivas y negativas.

Las IA generativas son sistemas que pueden producir resultados únicos, como texto o imágenes, a petición del usuario. Para lograrlo, son cruciales dos componentes: la arquitectura de la IA y sus datos de entrenamiento. La arquitectura de una IA define sus capacidades y es específica de su aplicación. Por ejemplo, los modelos lingüísticos de generación de texto, como el ChatGPT, el más capaz actualmente, utilizan probabilidades para predecir las palabras de una frase una tras otra. El modo en que se asignan estas probabilidades, es decir, qué palabra se elige a continuación, depende del contexto de la frase y del texto que la IA haya visto anteriormente: los llamados datos de entrenamiento. Estos datos se utilizan durante el desarrollo de un sistema de IA para «enseñarle» qué tipo de contenido debe producir. En el caso de la IA generadora de texto, un modelo entrenado en poesía probablemente producirá poemas, mientras que un modelo entrenado en libros de leyes producirá textos jurídicos. ChatGPT se entrenó con más de 570 terabytes de texto de Internet, lo que le permitió generar textos de una amplia gama de temas y estilos [5,6].

Una posible aplicación de los modelos lingüísticos es el servicio de atención al cliente. Las empresas pueden, por ejemplo, utilizarlos para generar respuestas automáticas a las consultas de los clientes, lo que puede mejorar los tiempos de respuesta y reducir la carga de trabajo de los agentes de atención al cliente. Esta tecnología ya ha sido implantada por varias empresas [7]. Otra posible aplicación de los modelos lingüísticos es el campo de la medicina. Los investigadores están estudiando su uso para analizar historiales médicos electrónicos y ayudar en el diagnóstico. Por ejemplo, los investigadores han utilizado con éxito modelos lingüísticos para analizar historiales médicos electrónicos e identificar a pacientes con riesgo de sepsis, una enfermedad potencialmente mortal [8,9].

Aunque los posibles beneficios de la IA y los modelos lingüísticos parecen evidentes, también hay que tener en cuenta las repercusiones negativas. Una de las principales preocupaciones es que sesgos como el racismo y el sexismo puedan introducirse en los sistemas de IA a través de los datos de entrenamiento [10-12]. Por ejemplo, en 2016 Microsoft lanzó un chatbot llamado Tay en Twitter, que fue diseñado para aprender de la interacción con los usuarios a través de conversaciones. Sin embargo, a las 24 horas de su lanzamiento, Tay se había convertido en un prolífico vomitador de contenido racista y sexista, lo que llevó a su rápido cierre [13]. Para evitar este tipo de situaciones, los desarrolladores de IA son ahora más cuidadosos con la selección de los datos de entrenamiento y tanto las entradas como las salidas de las IA se filtran en busca de contenidos inapropiados [14].

Otro problema de los sistemas de IA actuales es la generación de información falsa. Por ejemplo, tras el lanzamiento de chatGPT, varios periodistas informaron de que la IA inventaba estudios científicos y presentaba información falsa de forma muy legítima. Esto ocurre porque la principal tarea de un modelo lingüístico es generar frases que suenen naturales y contextuales, no suministrar información precisa [15]. Los desarrolladores están trabajando para mejorar este problema, pero hasta ahora la solución más práctica parece ser aconsejar a los usuarios que comprueben los resultados de la IA [16].

De cara al futuro, parece claro que la IA desempeñará un papel cada vez más importante en nuestra vida cotidiana. Sin embargo, como esta tecnología es aún relativamente nueva, es probable que su aplicación general tenga consecuencias imprevistas y resulta difícil predecir cómo afectará a nuestra comunicación. Sin embargo, una cosa es cierta: la época de los chatbots identificables está llegando a su fin.