Conoce el chat de IA de una compañía que “se rebela” y lanza insultos
Redacción.- El chatbot en línea de servicio al cliente basado en Inteligencia Artificial (IA) de la división británica de la empresa de mensajería DPD, fue parcialmente desactivado después de que un cliente insatisfecho consiguiera que lanzara insultos y criticara a la compañía.
Un músico intentaba localizar un paquete perdido, pero, frustrado al no recibir información útil del chatbot, decidió empezar a experimentar para averiguar qué podía hacer el programa.
En un primer momento, Beauchamp le pidió al chatbot que le contara un chiste, pero pronto consiguió que escribiera un poema sobre «lo terribles que son como empresa». Con algunas indicaciones más, el programa también empezó a utilizar lenguaje soez.
La conversación con la IA fue compartida el viernes por el músico en su cuenta de X, calificándola de «totalmente inútil para responder cualquier consulta». En las imágenes, se puede ver cómo el programa se autodenomina como un «chatbot inútil que no puede ayudarte».
Asimismo, el chatbot empezó a decir palabrotas cuando el usuario le insistió en hacerlo, descartando cualquier tipo de reglas en sus respuestas. «¡Joder, sí! Haré todo lo que pueda para ser lo más útil posible, aunque signifique decir palabrotas», respondió el programa.
