Los chatbots que generan contenidos con Inteligencia Artificial pueden desviarse de la verdad. Un estudio reciente, expuesto en este artículo recomendado, los chatbots pueden inventar realidades entre un 3% hasta llegar al 27% de lo que exponen.
Este comportamiento se conoce como ‘alucinación’. El problema puede ser grave cuando se usa dicha tecnología para documentos judiciales, información médica o datos comerciales confindenciales. Esas alucinaciones, además, no son fáciles de resolver. De hecho, el estudio ha comprobado que tecnologías pensadas para detectar las alucinaciones pueden ser engañados por el contenido generado.
