La IA generativa ha conquistado el mundo empresarial. Organizaciones de todo el mundo están tratando de comprender la mejor manera de aprovechar estos nuevos e interesantes avances en IA y, al mismo tiempo, equilibrar los riesgos inherentes del uso de estos modelos en un contexto empresarial a escala. Ya sea que se trate de alucinaciones, trazabilidad, datos de capacitación, derechos de propiedad intelectual, habilidades o costos, las empresas deben lidiar con una amplia variedad de riesgos al poner estos modelos en producción. Sin embargo, la promesa de transformar las experiencias de clientes y empleados con la IA es demasiado grande para ignorarla, mientras que la presión para implementar estos modelos se ha vuelto implacable.

Allanando el camino: modelos de lenguaje grandes

El enfoque actual de la IA generativa se ha centrado en los modelos de lenguajes grandes (LLM). Estos modelos basados ​​en el lenguaje están marcando el comienzo de un nuevo paradigma para descubrir conocimiento, tanto en cómo accedemos al conocimiento como en cómo interactuamos con él. Tradicionalmente, las empresas han dependido de los motores de búsqueda empresariales para aprovechar el conocimiento corporativo y de cara al cliente para apoyar tanto a los clientes como a los empleados. Estos motores de búsqueda dependen de palabras clave y comentarios humanos. La búsqueda jugó un papel clave en la implementación inicial de los chatbots en la empresa al cubrir la “larga cola” de preguntas que no tenían una ruta o respuesta predefinida. De hecho, IBM watsonx Assistant ha habilitado con éxito este patrón durante casi cuatro años. Ahora, estamos entusiasmados de llevar este patrón aún más lejos con grandes modelos de lenguaje e IA generativa.

Presentamos la búsqueda conversacional para Watsonx Assistant  

Hoy nos complace anunciar la versión beta de Búsqueda conversacional en Watsonx Assistant. Desarrollado por nuestro IBM granito Con un modelo de lenguaje grande y nuestro motor de búsqueda empresarial Watson Discovery, Conversational Search está diseñado para escalar respuestas conversacionales basadas en contenido empresarial para que sus asistentes de IA puedan impulsar interacciones orientadas a resultados y brindar respuestas más rápidas y precisas a sus clientes y empleados.

La búsqueda conversacional está perfectamente integrada en nuestra generador de conversaciones aumentado, para permitir a los clientes y empleados automatizar respuestas y acciones. Desde ayudar a sus clientes a comprender las recompensas de las tarjetas de crédito y ayudarles a solicitarlas, hasta ofrecer a sus empleados información sobre las políticas de tiempo libre y la posibilidad de reservar sus vacaciones sin problemas.

El mes pasado, IBM anunció la disponibilidad general de Granite, la última serie de modelos Foundation de IBM Research diseñada para acelerar la adopción de IA generativa en aplicaciones y flujos de trabajo empresariales con confianza y transparencia. Ahora, con esta versión beta, los usuarios pueden aprovechar un modelo Granite LLM previamente capacitado en conjuntos de datos especializados en empresas y aplicarlo a watsonx Assistant para impulsar asistentes de preguntas y respuestas atractivos e integrales rápidamente. La búsqueda conversacional amplía la gama de consultas de los usuarios que maneja su asistente de IA, para que pueda dedicar menos tiempo a capacitarse y más tiempo a brindar conocimientos a quienes los necesitan.

Los usuarios de los planes Plus o Enterprise de watsonx Assistant ahora pueden solicitar acceso temprano a la Búsqueda conversacional. Póngase en contacto con su representante de IBM para obtener acceso exclusivo a Conversational Search Beta o programe una demostración con uno de nuestros expertos.

Programe una demostración con nuestros expertos hoy

¿Cómo funciona la búsqueda conversacional entre bastidores?

Cuando un usuario le hace una pregunta a un asistente, Watsonx Assistant primero determina cómo ayudar al usuario: si activa una conversación prediseñada, una búsqueda conversacional o deriva a un agente humano. Esto se hace usando nuestro nuevo modelo de transformador, logrando una mayor precisión con una necesidad de entrenamiento mucho menor.

Una vez que se activa la búsqueda conversacional, se basa en dos pasos fundamentales para tener éxito: la parte de recuperación, cómo encontrar la información más relevante posible, y la parte de generación, cómo estructurar mejor esa información para obtener las respuestas más ricas del LLM. Para ambas partes, IBM watsonx Assistant aprovecha la Recuperación Generación Aumentadaframework empaquetado como una solución lista para usar y sin código para reducir la necesidad de alimentar y volver a entrenar el modelo LLM. Los usuarios pueden simplemente cargar la documentación o políticas comerciales más recientes, y el modelo recuperará información y regresará con una respuesta actualizada.

Para la parte de recuperación, Watsonx Assistant aprovecha las capacidades de búsqueda para recuperar contenido relevante de documentos comerciales. IBM watsonx Discovery permite búsquedas semánticas que comprenden el contexto y el significado para recuperar información. Y, como estos modelos entienden tan bien el lenguaje, los usuarios empresariales pueden mejorar la cantidad de temas y la calidad de las respuestas que su asistente de IA puede cubrir sin necesidad de formación. La búsqueda semántica está disponible hoy en IBM Cloud Pak for Data y estará disponible como una opción configurable para que usted la ejecute como software y implementaciones SaaS en los próximos meses.

Una vez que se realiza la recuperación y los resultados de la búsqueda se han organizado en orden de relevancia, la información se pasa a un LLM, en este caso el modelo IBM. granito – sintetizar y generar una respuesta conversacional basada en ese contenido. Esta respuesta cuenta con trazabilidad para que las empresas y sus usuarios puedan ver la fuente de la respuesta. El resultado: una respuesta contextual confiable basada en el contenido de su empresa.

En IBM entendemos la importancia de utilizar la IA de manera responsable y permitimos a nuestros clientes hacer lo mismo con la búsqueda conversacional. Las organizaciones pueden habilitar la funcionalidad si solo se reconocen ciertos temas y/o tienen la opción de utilizar la búsqueda conversacional como alternativa general a preguntas de cola larga. Las empresas pueden ajustar su preferencia por el uso de la búsqueda en función de sus políticas corporativas para el uso de IA generativa. También ofrecemos "palabras desencadenantes" para escalar automáticamente a un agente humano si se reconocen ciertos temas para garantizar que no se utilice la búsqueda conversacional.

Búsqueda conversacional en acción

Veamos un escenario de la vida real y cómo Watsonx Assistant aprovecha la búsqueda conversacional para ayudar a un cliente de un banco a solicitar una tarjeta de crédito.

Digamos que un cliente abre el asistente del banco y pregunta para qué tipo de oferta de bienvenida sería elegible si solicita la Tarjeta Platinum. Watsonx Assistant aprovecha su modelo transformador para examinar el mensaje del usuario y dirigirlo a un flujo de conversación prediseñado que pueda manejar este tema. El asistente puede extraer de forma natural y sin problemas la información relevante de los mensajes del usuario para recopilar los detalles necesarios, llamar al servicio backend apropiado y devolver los detalles de la oferta de bienvenida al usuario.

Antes de que el usuario presente su solicitud, tiene un par de preguntas. Comienzan pidiendo más detalles sobre el tipo de recompensas que ofrece la tarjeta. Nuevamente, el asistente Watsonx utiliza su modelo transformador, pero esta vez decide dirigirse a la búsqueda conversacional porque no hay conversaciones prediseñadas adecuadas. La búsqueda conversacional examina los documentos de conocimiento del banco y responde a la pregunta del usuario.

El usuario ahora está listo para presentar la solicitud, pero quiere asegurarse de que la solicitud no afecte su puntaje crediticio. Cuando le hacen esta pregunta al asistente, el asistente lo reconoce como un tema especial y lo traslada a un agente humano. Watsonx Assistant puede condensar la conversación en un resumen conciso y enviarlo al agente humano, quien puede comprender rápidamente la pregunta del usuario y resolverla por él.

A partir de ahí, el usuario queda satisfecho y solicita su nueva tarjeta de crédito.

IA conversacional que impulsa la innovación abierta

IBM ha estado y seguirá estando comprometida con una estrategia abierta, ofreciendo opciones de implementación a los clientes de la manera que mejor se adapte a sus necesidades empresariales. IBM watsonx Assistant Conversational Search proporciona una plataforma flexible que puede ofrecer respuestas precisas a través de diferentes canales y puntos de contacto al combinar capacidades de búsqueda empresarial y modelos LLM basados ​​en IBM creados en watsonx. Hoy, ofrecemos esta versión beta de búsqueda conversacional en IBM Cloud, así como una opción de implementación autogestionada de Cloud Pak for Data para búsqueda semántica con watsonx Discovery. En los próximos meses, ofreceremos la búsqueda semántica como una opción configurable para la búsqueda conversacional tanto para implementaciones de software como de SaaS, garantizando que las empresas puedan ejecutar e implementar donde quieran.

Para una mayor flexibilidad en la creación de modelos, las organizaciones también pueden llevar sus datos patentados a los modelos IBM LLM y personalizarlos usando watsonx.ai o aprovechar modelos de terceros como Meta's Llama y otros de la comunidad Hugging Face para usarlos con búsqueda conversacional u otro uso. casos.

Recién comenzando con tu Viaje de IA generativa para el servicio al cliente? Regístrese para una sesión informativa para el cliente con IBM Consulting.

Transforme su servicio de atención al cliente con una sesión informativa para el cliente para watsonx