Todo lo que necesitas saber para empezar a utilizar un LLM en tu empresa

Desde la aparición y expansión de la IA generativa, prácticamente cualquier consumidor con acceso a Internet puede utilizar este tipo de herramientas y los modelos grandes de lenguaje que las impulsan. Por las posibilidades que ofrecen, también resultan muy atractivos para las empresas. Con un LLM apropiado, las empresas pueden automatizar y agilizar la realización de multitud de tareas, que van desde el resumen de un documento hasta ayudar en el desarrollo de código o generar la base de presentaciones.

Pero, en general, empezar a utilizar un LLM en una empresa no es tan rápido como para los consumidores que usan chatbots y sistemas de IA generativa. Hay que tener diversos aspectos en cuenta antes de adoptarlos. Es necesario plantearse es para qué se van a utilizar. Por eso es necesario conocer todas las posibilidades disponibles, y dónde pueden ayudar a marcar la diferencia y convertirse en un elemento destacado para mejorar un área o aspecto de un negocio.

Utilizar un LLM en TI y desarrollo

Es necesario tener presente que para utilizar un LLM en determinadas áreas necesario partir de una mentalidad muy distinta a la utilizada tradicionalmente. Por ejemplo, en el desarrollo de software, utilizar un LLM hace necesario abordar de manera distinta las habilidades de programación y las pruebas de calidad de los desarrollos.

La infraestructura TI necesaria para utilizar modelos grandes de lenguaje es también notablemente distinta a la utilizada para las aplicaciones de empresa tradicionales, ya que requiere encontrar un equilibrio entre la privacidad de datos y las normativas dispuestas para su protección con la capacidad de entrenar LLMs y probar su precisión.

Al igual que sucede en otras áreas, al usar un LLM no se puede pretender que los resultados que muestre sean perfectos desde un primer momento. Se trata de un proceso que irá mejorando con el tiempo. Por eso, adoptar un modelo grande de lenguaje en una empresa debe llevar implícito que es necesario pasar con él por una fase de pruebas, en la que el modelo aprenda progresivamente, con el uso, hasta ofrecer los resultados deseados.

Quienes los utilizan también tienen que tomarse su tiempo para adaptarse a sus limitaciones. Y en muchos casos, tienen que contar con cierto conocimiento, al menos básico, de cómo funcionan los algoritmos de machine learning. Un desarrollador medio, por ejemplo, puede tener muchas ventajas si tiene ya una base en conceptos relacionados con machine learning, aunque ya hay diversas herramientas y frameworks que no requieren prácticamente conocimientos previos de machine learning para utilizarlos.

Por otro lado, comprender tareas como el ajuste de precisión de prompt, el afinado de hiperparámetros, y los problemas y obstáculos derivados de la gestión del entrenamiento de datos, pueden llevar a la consecución de mejores resultados. También es util en muchos casos contar con herramientas low code en caso de no contar con mucha experiencia en machine learning.

Eso sí, en caso de utilizar herramientas low code es conveniente tener presente que, aunque pueden agilizar ciertos aspectos del desarrollo de aplicaciones con IA y LLMs, pueden tener limitaciones a la hora de gestionar tareas de especialización elevada o configuraciones de modelos complejos. En cualquier caso, es necesario que los desarrolladores que las usen comprendan las bases del machine learning para que puedan tomar decisiones informadas sobre el comportamiento del modelo.

Entrenamiento y alucinaciones

No importa en qué sector se vaya a utilizar un modelo largo de lenguaje: sus resultados, sobre todo al principio, dependerán en gran medida de la calidad y diversidad de los datos con los que se les ha entrenado. Si los datos utilizados para ello están sesgados o son poco diversos, las respuestas del modelo pueden estar sesgadas o apoyarse en estereotipos. Esto puede llevar a consecuencias injustas, y desde luego no deseadas. Especialmente si se utilizan en escenarios o aplicaciones relacionadas con temas sensibles o que vayan a utilizar grupos de usuarios diversos.

Además, estos modelos «alucinan», lo que quiere decir que sus respuestas pueden ser incorrectas o inexactas. También pueden responder con hechos o elementos que dan como ciertos y son falsos. Pro eso, es necesario prestar atención a los conjuntos de datos con los que se ha entrenado un modelo grande de lenguaje, de manera que los prompts introducidos para entrenarlo sean los adecuados para evitar alucinaciones.

Para entrenar un modelo según las necesidades y requisitos de una empresa, además, es necesario utilizar personal con experiencia. Sobre todo, si es necesario prepararlo para tareas muy concretas. Ajustar un LLM todo lo que se pueda implica no solo realizar entrenamientos convencionales, sino también ajustar los prompts y experimentar con hiperparámetros, además de trabajar para que el modelo se adapte para las tareas que realizará en el futuro. Si no se tiene cuidado en esto, su rendimiento puede no ser el más adecuado. Además, puede que el modelo tenga dificultades para responder a la hora de adaptarlo a casos de uso concretos.

Todo esto hace que el despliegue de modelos grandes de lenguaje que incorporen modelos de deep learning complejos, ya que interpretarlos puede resultar complicado y más lento de lo previsto. También puede ser complejo comprender por qué ha dado una respuesta concreta. Si no se tiene cuidado en la interpretación de sus respuestas, la confianza en las decisiones que toma el modelo para elaborarlas puede erosionarse. Especialmente al utilizarlo en situaciones en las que la transparencia y la rendición de cuentas sea crucial.

El LLM, ¿privado o público?

Una de las primeras decisiones que tienen que tomar las empresas es si usan un LLM público o despliegan uno a nivel interno, aislado de Internet. En el primer caso, tendrán que decidirse por uno de los modelos grandes de lenguaje comerciales, disponibles generalmente mediante suscripción. Ser entrenan generalmente con grandes cantidades de datos disponibles públicamente y recopilados de webs y redes sociales.

Ante esto, una de las primeras preguntas que se tienen que hacer los responsables de una empresa es qué tipo de datos corporativos quieren compartir de manera pública y cuáles no, para evitar utilizar estos últimos con uno de estos LLM y no sufrir filtraciones de datos sensibles.

En caso de que los costes sean un problema, la mayoría de los modelos accesibles a través de API se pagan por tokens enviados y recibidos, lo que puede llevar a un aumento notable de gastos si se utilizan los LLMs con mucha frecuencia e intensidad. También hay bastantes implicaciones relacionadas con la propiedad intelectual en cuanto a su entrenamiento, que todavía no se han resuelto.

Decidirse por el despliegue de un LLM  a nivel interno en vez de utilizar uno público puede ser la clave para que una empresa consiga diferenciarse de sus rivales. Con ellos pueden utilizar sus propios datos en el seno de su infraestructura TI interna, sin conexiones con el exterior. Por tanto, al mantenerlos a salvo, los datos de la empresa están más protegidos.

Eso sí, el uso de modelos privados necesita en la mayoría de los casos la implicación de todas las partes interesadas de la empresa, y también realizar una valoración de los riesgos que supondría su implementación antes de llevarla a cabo. En caso de decidirse por uno de ellos, es imprescindible tener políticas para utilizarlo bien definidas. Además, el acceso de los empleados que tengan que utilizarlo debe implementarse cuidadosamente. Especialmente, en el caso de que tengan que trabajar con información sensible. También tienen que tener prevista la necesidad de cumplir con las regulaciones de datos, entre otras, en vigor.

A cambio de todos estos impedimentos que se presentarán durante las primeras etapas de su despliegue y uso, los LLMs privados tienen bastantes ventajas con respecto a los públicos. El principal es que pueden aprender utilizando el conocimiento interno de todas las fuentes de la empresa, desde los correos electrónicos a los sistemas de gestión de proyectos. Por lo tanto, estará más adaptado a la empresa y sus resultados serán bastante más ajustados a sus actividades y recursos.

La infraestructura necesaria para desplegar modelos grandes de lenguaje

Una de las principales barreras para poner en funcionamiento un LLM privado es que el equipo de TI de la empresa será responsable del mantenimiento del software y hardware necesarios para su funcionamiento. Y no es poco, puesto que solo para su entrenamiento se necesitan bastantes GPUs en ejecución en servidores optimizados para la IA.

Por eso, en vez de contar con servidores internos, muchas empresas utilizan hardware de terceros, accesible mediante un sistema de Infraestructura como Servicio (IaaS). De esta manera, utilizando la nube pública para almacenar y ejecutar un LLM, los responsables de TI pueden evitar los riesgos derivados de la filtración de datos, que puede llegar si se sube información sensible a un LLM público. Uno privado ejecutándose en infraestructura cloud permite a las organizaciones sacar partido de la escala y elasticidad de la nube pública, manteniendo los datos privados de la empresa a salvo.

Dado que, además, el sector ha reconocido que hay demanda de infraestructura TI y plataformas optimizadas para ejecutar IA, todos los principales proveedores cloud han diversificado su oferta para dar lo necesario para albergar las cargas de trabajo de machine learning y entrenamiento de modelos de lenguaje.

Precauciones necesarias para los modelos

Además de infraestructura TI y habilidades de programación, es importante que los equipos de desarrollo de software tomen ciertas precauciones para asegurar que se cumplen los estándares necesarios de privacidad y seguridad. Sobre todo, al desarrollar aplicaciones con IA.

En cuanto a los responsables de las empresas, tienen que valorar las implicaciones éticas del uso de un LLM, y tener presente todo lo que necesitan para demostrar a los auditories, cuando sea necesario, que toman medidas para asegurarse de que las aplicaciones de toma de decisiones impulsadas por modelos grandes de lenguaje son justas y sin sesgos.

Para ello, además de las medidas que hemos visto hasta ahora, es necesario implementar un sistema de cifrado sólido para los datos, tanto cuando están en reposo como cuando están trasladándose de un punto a otro. También hay que revisar y actualizar cada cierto tiempo los protocolos de seguridad, con el objetivo de proteger la información sensible que procesen varios LLMs.

Resulta imprescindible asegurarse de que todos los LLMs utilizados cumplen con leyes como la RGPD. Sobre todo en lo que respecta a la gestión de los datos de los usuarios y su consentimiento. Lo mismo en el caso de las normativas propias del sector en el que se utilizan. Sobre todo en sectores como la salud, las finanzas o el legal. También hay que asegurarse de que hay acuerdos comerciales en vigor con los LLMs para evitar el uso de los datos para el entrenamiento de modelos.

Es necesario implementar controles de acceso estrictos, y mecanismos de autenticación para evitar accesos no autorizados a los sistemas de IA y a los datos sensibles, además de auditar periódicamente los sistemas de IA en busca de vulnerabilidades de seguridad. También supervisar su uso para detectar actividades maliciosas y tomar medidas para evitarlas.

Revisar cada cierto tiempo cada LLM utilizado para detectar sesgos, así como poner en marcha medidas para reducir su impacto en la toma de decisiones y respuestas, es crucial. Por último, no hay que olvidar mantener la transparencia sobre el uso que hacen de los datos los sistemas de IA, además de informar a las partes interesadas de los modelos de IA que se estén utilizando y de cómo se gestionan sus datos.