Watsonx.gonvernance, la nueva plataforma de IBM para salvaguardar la confianza en la IAG

Cada vez son más las empresas y organismos públicos que se suman al debate sobre la necesidad de regular la IA Generativa en todos los ámbitos. A fin de evitar efectos negativos, IBM ha desarrollado watsonx.governance, una plataforma de solución integral para gestionar el riesgo y promover la transparencia en pro de las futuras regulaciones de IA.

El nuevo kit de herramientas watsonx.governance se incorpora como tercer pilar de watsonx, la plataforma de IA e IAG de IBM. Junto al innovador watsonx.governance encontramos watsonx.ai, una biblioteca de modelos funcionales, y watsonx.data, que es un almacén de datos con plena flexibilidad y rendimiento. Además, watsonx incluye programas de consultoría y socios de IBM.

Watsonx.governance de IBM ayudará a las empresas a gestionar, monitorear y gobernar los modelos de LLMs desde cualquier ubicación, escalando hacia una IA responsable. En este sentido, Kareem Yusuf, Vicepresidente Senior de Gestión de Producto y Crecimiento en IBM Software, ha asegurado que watsonx.governance proporciona las herramientas necesarias para automatizar los procesos de gobierno de IA y tomar decisiones correctivas con una mayor visibilidad.

Con watsonx.governance, IBM manifiesta su férreo compromiso con la regulación y automatización del aprendizaje automático de forma responsable y transparente en una única plataforma integrada. Será necesario comprender cómo y con qué se entrenan los LLM para aumentar significativamente la precisión predictiva.

Las claves de watsonx.governance

La plataforma está construida a base de cuadros de mando dinámicos que ofrezcan resultados personalizables a las partes interesadas, mejorando a su vez la colaboración en diferentes zonas geográficas. Además, facilitará el compliance, al permitir traducir las normativas externas en políticas para la adhesión automatizada, apoyar las auditorías y la conformidad con las regulaciones actuales y futuras y emitir informes cualificados a las partes interesadas.

El nuevo kit de herramientas watsonx.governance implica capacidades ampliadas para los modelos funcionales. Así pues, se establecerá una supervisión de nuevas métricas, cuando se superasen los umbrales preestablecidos, eliminando los casos de lenguaje tóxico (incluidos el odio, y los abusos) y la información de identificación personal.

Watsonx.governance también ofrecerá visibilidad del desarrollo al recopilar automáticamente información sobre el proceso de construcción del modelo funcional y las decisiones para mitigar los riesgos. Además, contribuirá a la transparencia del ciclo de vida de la IA, documentando automáticamente los hechos en todas las etapas. Así pues, se realizará un seguimiento de los detalles (tamaño de los datos, latencia y rendimiento).

Otro aspecto clave a tener en cuenta son las herramientas de validación. Estas permiten a los ingenieros asignar resultados de modelos fundaciones a datos de contexto/referencia proporcionados para determinar si el modelo fundacional está influenciado por los datos de referencia y ayuda a obtener un resultado óptimo.

Su disponibilidad

Watsonx.governance estará disponible desde principios de diciembre. En su primera versión, los clientes que utilicen los modelos funcionales dentro de watsonx.ai podrán gobernarlos desde la nube. El objetivo de IBM no es otro que ampliar las capacidades de su nueva plataforma de control de IA de cara al primer trimestre de 2024. De este modo, los clientes podrán gobernar modelos de IA de terceros en la nube.

Brave.AI, la última apuesta de IBM en alianza con Casper Labs

Recientemente se dio a conocer el proyecto en el que venían trabajando IBM WatsonX y Casper Labs, basado en el desarrollo de la primera IA fundamentada en tecnología blockchain. De este modo, se conseguiría generar modelos de gobernanza de datos para el desarrollo de una IA tranparente y segura.

Brave.AI es una propuesta de futuro, pues además de mejorar la transparencia, garantizará una eficiencia mejorada y nuevas oportunidades y aplicaciones. Hay que tener en cuenta que la tecnología blockchain aporta un registro inmutable, lo que permite aumentar la confianza y la seguridad en diversos sectores.

Además, con Brave.AI se podrán agilizar los procesos empresariales complejos, reduciendo costes y abriendo nuevas oportunidades de negocio y aplicaciones innovadoras en sectores como la logística, la ciberseguridad y la gestión de contratos inteligentes.

Con anterioridad, IBM y Casper Labs se habían unido para establecer el primer intercambio atómico de tokens fungibles y no fungibles entre redes de blockchain públicas y privadas. De este modo, consiguieron aumentar la liquidez de los mercados habilitados por blockchain y una opción segura para las empresas. A partir de la nueva alianza, Brave.AI logrará impactar positivamente en la forma en la que se realizan las transacciones y se gestionan los datos empresariales.