Oracle Cloud anuncia un servicio de IA generativa impulsado por Nvidia

Oracle ha anunciado un nuevo servicio de IA generativa para Oracle Cloud Infrastructure, pensado para permitir a las empresas integrar la Inteligencia Artificial en las aplicaciones de su línea de negocio. Así, OCI Generative AI es un servicio gestionado creado a partir de la infraestructura de Oracle Cloud en colaboración con la plataforma de IA para empresa Cohere.

El servicio gestionado y los modelos de Cohere funcionarán de manera conjunta con AI Vector Search, una función de Oracle Database 23c que ofrecer generación aumentada de recuperación (RAG), una técnica de IA que combina modelos grandes de lenguaje preentrenados y datos de empresa para ofrecer respuestas con mayor nivel de precisión.

OCI Generative AI, además, será la base de las capacidades de IA generativa integradas en la suite de aplicaciones de software como servicio de Oracle. Entre ellas, la suite de aplicaciones Oracle Fusion Cloud y Oracle NetSuite, así como aplicaciones para la industria, como Oracle Cerner.

Por otro lado, Oracle ha anunciado la próxima disponibilidad de instancias de OCI impulsadas por GPUs Nvidia H100 Tensor Core, Nvidia L40S y AmpereOne de Ampere. Las nuevas instancias OCI Compute están diseñadas para ejecutar gran variedad de cargas de trabajo en la nube, y hacer que sean más accesibles para empresas.

El servicio de IA generativa de OCI tiene tres modelos: Command, que toma el prompt de un usuario y genera texto; Summarize, que realiza resúmenes extractivos basados en los parámetros de usuarios; y Embed, que traduce texto a vectores numéricos que puedan entender los modelos. Oracle ha hecho también varias mejoras en servicios que ya tenía en marcha.

Así, en Oracle Digital Assistant ha agregado funciones de IA generativa para permitir la integración de modelos grandes de lenguaje y otras capacidades generativas en los asistentes. En OCI Language, por un lado ha agregado información sanitaria (Healthcare NLP) con proceso de lenguaje natural para funciones como notas de ensayos clínicos, evolución de pacientes y registros electrónicos de salud.

Además, ha añadido una función de traducción de documentos (Document Translation Experience) con formatos como Word, PowerPoint, HTML, JSON o Excel. OCI Vision tiene la capacidad de reconocer caras y partes del rostro en imágenes. OCI Speech permite ahora al servicio integrar información del hablante en secciones transcritas del audio, y OCI Data Science suma un repositorio central para la gestión de funciones desarrollados por equipos de ciencia de datos: Feature Store.

Las instancias de OCI Compute con GPUs de Nvidia incluirán instancias bare metal impulsadas por GPUs H100 y L40S, lo que puede ayudar a reducir el tiempo que se tarda en entrenar modelos de IA de gran envergadura si se cuenta con las que llevan la GPU H100. Las que llevan la L40s son apropiadas para el entrenamiento de modelos medianos y pequeños.

Asimismo, Oracle ha confirmado que habrá instancias A2 de OCI Compute impulsadas por las CPUs AmpereOne con hasta 320 cores en la configuración bare metal, y con hasta 156 cores en las instancias de máquina virtual flexible. En ambos casos, estarán disponibles a lo largo de 2024.