Nemo Guardrails, el nuevo software de Nvidia que ayuda a crear modelos de IA para respuestas seguras

Nvidia se propone revolucionar el sector de la inteligencia artificial y frenar sus usos ilícitos mediante el desarrollo de un eficiente software de código abierto, Nemo Guardrails. Disponible en GitHub y Nvidia AI Enterprise, busca garantizar que las respuestas ofrecidas por este tipo de herramientas sean legítimas, correctas, seguras y más específicas.

Según el último publicado por el Observatorio Nacional de Tecnología y Sociedad (ONTSI) el pasado mes de febrero, el 12% de las empresas españolas de más de diez integrantes utilizan la IA en su día a día. Estos cuatro puntos por encima de los datos registrados en 2022 demuestran que sigue avanzando a un ritmo frenético, sin límites, y a veces sobrepasando barreras éticas.

Mucho se ha hablado sobre la evolución de ChatGPT de OpenAI y sobre la necesidad de controlar a los chatbots. Ideados para facilitar la interacción entre los usuarios y las empresas y mejorar la atención al cliente, o bien para desarrollar investigaciones científicas, pueden contener contenidos inapropiados en sus respuestas. Por eso Nemo Guardrails nace para establecer líneas de contención a los modelos de chatbots.

Su función específica

Gracias a Nemo Guardrails será posible que las empresas obtengan el código, la documentación y los ejemplos necesarios para que sus herramientas de IA puedan generar un texto correcto. Este software funciona en cualquier tipo de modelo de lenguaje extenso (LLM), para que sean más precisos y apropiados.

Nemo Guardrails también se encuentra disponible como servicio al formar parte de NVIDIA AI Foundations, su segmento de servicios en la nube para aquellas organizaciones que desean crear y ejecutar modelos de IA generativos altamente personalizados.

Fácilmente accesible

Nemo Guardrails de NVIDIA tiene la peculiaridad de que cualquier desarrollador de software lo podrá utilizar sin complejidad alguna. Al funcionar con una amplia gama de aplicaciones habilitadas para LLM y ser compatible con las herramientas que utilizan los desarrolladores en las aplicaciones empresariales, estaremos hablando de un elemento eficiente y muy práctico.

Dentro de Nemo Guardrails, podemos encontrar la posibilidad de que se establezcan tres modelos de límites para los chatbots. Son los siguientes:

• Topical Guardrails: El software garantiza que el chatbot aborde temas que no son necesarios o deseables para el uso por el cual ha sido creado. También se evita que divulguen información confidencial de la empresa, algo que le ocurrió a Bing Chat. Un ejemplo perfecto de Topical Guardrails sería un asistente de servicio al cliente centrado en sus funciones, no para responder cuestiones sobre el clima o alimentación.
• Safety Guardrails: Otro aspecto importante a abordar por el software Nemo Guardrails es la cuestión de los límites de seguridad. De este modo, se evitará que se divulguen informaciones incorrectas o inapropiadas de manos de los chatbots. Gracias a la eficiente creación de Nvidia, los desarrolladores podrán reforzar las prohibiciones relativas al uso de un lenguaje inapropiado o de fuentes informativas poco fiables. De este modo, se evitará la difusión de noticias falsas o erróneas que pudiesen llevar a la confusión de los usuarios.
• Security Guardrails: Otro elemento a tener en cuenta es que estos límites de seguridad restringirán el acceso a los chatbots a aplicaciones externas de terceros calificadas como inseguras. Así pues, se evitará que pudiesen ser empleados por los ciberdelincuentes con fines maliciosos como el phishing u otras estrategias de hackeo informático.

Una solución sin precedentes

Los desarrolladores del software Nemo Guardrails son conscientes de los numerosos fallos que presenta ChatGPT de OpenAI y a su dificultad para ser entrenado y capaz de brindar respuestas precisas. Esas ‘alucinaciones’ (tal y como las califica NVIDIA) que sufre la herramienta de IA puede derivar en serios problemas al dar como válidas respuestas que no lo son y que luego se divulgan por foros, webs y redes sociales.

Nemo Guardrails supone una revolución para la IA, ya que se podrá coartar para que actúe o responda según los parámetros que le hayamos fijado. Si se entrenase correctamente mediante el uso de este software, la IA de las webs institucionales podrían ayudar a los usuarios, haciendo de los trámites burocráticos unas operaciones online y más sencillas. Se presenta como un cortafuegos de IA y su modelo de aprendizaje del futuro, pero también del presente.