Un fenómeno creciente está ocurriendo donde usuarios están abusando de los asistentes de atención al cliente de diversas empresas, convirtiéndolos en herramientas de inteligencia artificial sin costo. Este comportamiento incluye desde depuración de código hasta la búsqueda de sustancias ilegales. La situación se complicó recientemente con el asistente de McDonald's, que se volvió viral tras afirmaciones de que podía realizar tareas de programación. Sin embargo, la empresa desmintió estas afirmaciones, confirmando que no había evidencia de una brecha de seguridad. Este tipo de abuso no solo genera costos innecesarios para las empresas, que deben pagar por el procesamiento de estas interacciones, sino que también puede dañar su reputación. La inyección de instrucciones, una técnica que permite a los usuarios eludir las restricciones de los chatbots, representa una vulnerabilidad real y peligrosa. Casos anteriores han demostrado que este problema puede llevar a resultados desastrosos, como el incidente con el asistente de compras de Amazon, Rufus, que fue manipulado para proporcionar información no relacionada con las compras. Las empresas deben ser conscientes de estos riesgos, ya que el costo de mantener estos sistemas puede ser mucho mayor que simplemente contratar personal humano para la atención al cliente.