Oracle anuncia la disponibilidad de HeatWave GenAI

Oracle anuncia HeatWave GenAI, una solución empresarial que ofrece modelos LLM fáciles de implementar y automatización en migración vectorial de datos.

Edward Screven, arquitecto jefe corporativo de Oracle. Foto: oracle.com. Portal ERP México.

Oracle anunció que ya está disponible HeatWave GenAI, su solución de Inteligencia Artificial Generativa (GenAI) que incluye grandes modelos de lenguaje (LLM), un almacén de vectores automatizado en la base de datos, procesamiento de vectores escalable y capacidad de mantener conversaciones contextuales en lenguaje natural. Funciones que permiten incorporar la IA generativa a sus datos empresariales sin necesidad de contar con experiencia en IA o migración de datos a una base de datos vectorial.

Con HeatWave GenAI, los usuarios pueden realizar búsquedas en lenguaje natural, gracias a los LLM externos o la base de datos. Debido a la escala y el rendimiento de HeatWave, no es necesario GPU adicional. Como resultado, los desarrolladores pueden reducir la complejidad en sus aplicaciones, impulsar el rendimiento, mejorar la seguridad de los datos, ya que la información no sale de la base de datos, y reducir costos.

Te puede interesar: Oracle Database 23ai: IA integrada para impulsar las empresas

"Estas mejoras integradas y automatizadas permiten que los desarrolladores creen aplicaciones ricas en IA generativa con mayor rapidez, sin necesidad de tener conocimientos previos en el tema o en migración de datos. Ahora, los usuarios disponen de una forma intuitiva de interactuar con los datos de su organización y obtener rápidamente las respuestas precisas que necesitan para su empresa", comentó Edward Screven, arquitecto jefe corporativo de Oracle. 

Entre las nuevas funciones automatizadas e integradas de IA generativa se incluyen: 

Los LLM en base de datos

• Simplifican el desarrollo de aplicaciones de IA generativa a un menor costo.
• Beneficios de GenAI sin la complejidad de la selección e integración de LLM externos, y sin preocuparse por su disponibilidad en centros de datos de varios proveedores de nube.
• Permiten que los clientes busquen datos, generen o resuman contenidos y realicen una generación aumentada por recuperación (RAG).
• Pueden combinar GenAI con HeatWave AutoML, para desarrollar aplicaciones más completas; o el servicio OCI Generative AI para acceder a modelos fundacionales preentrenados de los principales proveedores de LLM. 

El almacenamiento vectorial automatizado en la base de datos

Se pueden utilizar GenAI con documentos empresariales sin necesidad de trasladar los datos a una base de datos vectorial independiente y sin conocimientos previos de IA.  

Todos los pasos para crear un almacén vectorial e incrustaciones vectoriales están automatizados y se ejecutan dentro de la base de datos.

• Detección de los documentos en el almacenamiento de objetos 
• Análisis sintáctico 
• Generación de incrustaciones de forma altamente paralela y optimizada 
• Su inserción en el almacén vectorial  

El uso de un almacén vectorial ayuda a resolver las alucinaciones de los LLM, ya que los modelos pueden buscar datos propios con el contexto adecuado para proporcionar respuestas más precisas y relevantes.

El procesamiento vectorial a escala 

• Ofrece resultados de búsqueda semántica muy rápidos sin pérdida de precisión.  
• Permite que los clientes realicen consultas semánticas con SQL estándar.  
• El procesamiento vectorial se ejecuta con un ancho de banda cercano a la memoria, paralelo en hasta 512 nodos HeatWave, para que los clientes reciban respuestas rápidas.  
• Pueden combinar la búsqueda semántica con otros operadores SQL para, por ejemplo, unir varias tablas con documentos diferentes y realizar búsquedas por similitud en todos los documentos.  

HeatWave Chat  

• Complemento que proporciona una interfaz gráfica para HeatWave GenAI. 
• Permite que los desarrolladores planteen preguntas en lenguaje natural o SQL.  
• Permite a los usuarios seleccionar archivos del almacenamiento de objetos y crear un almacén de vectores.
• Los usuarios pueden buscar en toda la base de datos o restringir la búsqueda a una carpeta.
• Mantiene el contexto con el historial de las preguntas formuladas, facilitando una conversación contextual y verificar la fuente de las respuestas generadas.

La creación de un almacén vectorial para documentos en formato PDF, PPT, WORD y HTML es hasta 23 veces más rápida con HeatWave GenAI y menos costoso.

HeatWave GenAI está disponible inmediatamente en todas las regiones de Oracle Cloud, Oracle Cloud Infrastructure (OCI) Dedicated Region y en todas las nubes sin costo adicional para los clientes de HeatWave.