No lo leímos en un informe.
Nos pasó a nosotros.
Cuando lanzamos PulseCosta, nuestra app de ocio en la Costa del Sol, empezaron a llegar preguntas a todas horas: horarios, precios, si había terraza, si se podía ir con niños. En español, inglés, finés y sueco. Y casi siempre fuera de horario.
Hablando con los locales vimos lo mismo: restaurantes, hoteles y apartamentos perdían reservas porque nadie contestaba por la noche ni los fines de semana. Los chatbots que habían probado respondían con frases genéricas o, peor, se inventaban cosas.
«Un cliente que pregunta a medianoche y no recibe respuesta reserva en otro sitio.»
Construimos nuestro propio asistente y aprendimos tres cosas a base de equivocarnos:
1. Sin tus datos, la IA se inventa respuestas. En las primeras pruebas, el modelo llegó a recomendar locales que no existían. Desde entonces nuestros asistentes solo responden con la información del negocio y citan de dónde sale cada dato.
2. Mandar los datos a una API externa sale caro y no es tuyo. Empezamos con un servicio de IA en la nube. Lo pasamos a nuestro propio modelo en servidores europeos: el coste por consulta bajó a cero y los datos dejaron de salir.
3. Un chatbot público se puede atacar. Antes de abrirlo, un especialista en seguridad intentó engañarlo para que revelara información interna. Hoy todos nuestros asistentes pasan esas pruebas antes de publicarse.