Factorías IA: el futuro de la Inteligencia Artificial

La Inteligencia Artificial generativa ha pasado en el último año de una fase de pequeños proyectos piloto, a otra muy diferente: una en la que cada vez más empresas llevan estos desarrollos a entornos de producción, bien con el objetivo de incrementar su productividad, bien para ofrecer más a sus clientes.

En la misma medida sin embargo, sigue habiendo muchas dudas sobre sus aplicación efectiva y sobre todo, sobre el auténtico retorno de la inversión que ofrece a las organizaciones. A esto se suma, la necesidad de definir un entorno óptico de gobernanza e higiene de los datos; dudas a la hora de si resulta más conveniente desarrollar modelos in house o recurrir a herramientas privativas que facilitan el ser más ágiles (a costa de cierto vendor lock-in); o incluso, definir casos de uso que realmente tengan sentido y que sean escalables.

Sobre todo esto hemos charlado en «Factorías IA: el futuro de la Inteligencia Artificial» una mesa redonda que hemos organizado con el apoyo de myCloudDoor y en el que hemos analizado los principales retos que se presentan en este terreno. Para ello hemos contado con la participación de:

• Chris Palomino, Global IT Vice President de Meliá Hotels International.
• Alberto López Rodríguez, Global Head of IT and Cybersecurity de Solaria Energía y Medio Ambiente.
• Tiago Sacchetti, Iberian Director de Bosch Industry Consulting España
• Victor Masip Secos, CITO de WiZink.
• Javier Pérez Crisóstomo, Director de Gobierno IT y CTO de Prosegur.
•  Daniel Andrés Castillo, Data & Analytics TS Director de myCloudDoor.
• Javier Aguado La Iglesia, Global Cloud Director de myCloudDoor
• Gustavo de Porcellinis, Director Comercial de TPNET
• Rodolfo de Juana, Coordinador Editorial de MCPRO.

Gobierno e higiene del dato en la era de la IA

El gobierno del dato implica la implementación de políticas, procedimientos y estándares que aseguren la calidad, integridad y seguridad de los mismos. Sin una gestión adecuada, los datos pueden volverse desordenados, inexactos y vulnerables a brechas de seguridad, lo que podría conducir a resultados poco fiables o sesgados, lo que en los modelos públicos de LLM se conoce como «alucinaciones».

La higiene del dato, que incluye prácticas como la limpieza, validación y actualización continua de la información, garantiza que los datos utilizados por los sistemas de IA sean precisos y relevantes. Al mismo tiempo, como señala Javier Aguado, «esa higiene y gobernanza del dato debe ser capaz de garantizar un uso ético, transparente y que sea compliance con el negocio, lo que puede convertirse en una barrera de entrada».

• «Es necesario que el gobierno del dato pueda garantizar que los modelos son seguros, legales, sostenibles y sobre todo que son explicables. Los modelos se tienen que poder explicar; no pueden ser una caja negra, sino que se tiene que comprender qué se está haciendo y cómo se está haciendo» – Tiago Sachetti
• «Lo que buscamos es tener una visión 360 de todos los riesgos asociados a cada iniciativa que ponemos en marcha. Controlar qué pasa con los datos, qué ocurre en el modelo y cómo puede impactar su uso en la experiencia de cliente. Por otro lado, las empresas tenemos la obligación de poner los puntos de control necesarios para que no se utilice mal la IA. El gobierno tiene que estar dentro de las organizaciones y tener muy claro el control de riesgos» – Chris Palomino
• «Como sector regulado (finanzas), el gobierno del dato está siendo un gran reto, a lo que se suma cumplir con la directiva europea sobre IA o las directrices de nuestro propio regulador. Y es cierto que los modelos públicos son muy potentes, pero hay que ser realmente cautos con la privacidad. En nuestro caso, estamos apostando por modelo autocontenidos, lo cual no es lo más rápido, pero ofrece un punto de equilibrio entre gobierno y velocidad» – Víctor Massip
• «Estamos dando los primeros pasos en el mantenimiento predictivo, que es donde vemos el efecto más inmediato. Hay una transversalidad de todos los datos que utilizamos, no los tenemos aislados, hay una homogeneización y convergencia en todo el sistema. No tenemos silos, salvo la segmentación propia relacionada con la ciberseguridad» – Alberto López Rodríguez
• «Procuramos tener visibilidad de todas las iniciativas para que haya permeabilidad de todas las best practices, tener una visión y aplicación del compliance y garantizar el gobierno del dato.» – Javier Pérez Crisóstomo.

Plataformas y herramientas

Al reflexionar sobre las herramientas y plataformas sobre las que se construyen los desarrollos de IA en las empresas, surge el debate sobre las ventajas que aquí aportan los desarrollos y plataformas OpenSource, frente al software comercial y el necesario equilibrio entre velocidad e innovación.

Muchos señalan aquí que software open source ofrece la ventaja de la transparencia, flexibilidad y más privacidad. Además, evita el vendor lock-in, proporcionando independencia y control sobre las implementaciones. Sin embargo, puede requerir un mayor conocimiento técnico y más recursos para su mantenimiento. Por otro lado, los desarrollos propietarios suelen ofrecer soluciones más integradas, lo cual puede ser crucial para empresas que buscan implementaciones rápidas y una puesta en producción del desarrollo casi desde el primer momento.

Es en este debate en el que como explican desde myCloudDoor tiene sentido mirad hacia las Factorías de IA, entornos integrales diseñados para facilitar el desarrollo, despliegue y mantenimiento de soluciones de inteligencia artificial a gran escala. Estas factorías combinan infraestructura, herramientas y procesos para estandarizar y automatizar las etapas del ciclo de vida de los modelos de IA, desde la recopilación y preparación de datos hasta el entrenamiento, evaluación y despliegue de modelos y que tienen el potencial de combinar lo mejor de ambos mundos.

• «El debate entre usar plataformas open source o desarrollos comerciales está ligado con la velocidad. Cómo de rápido queremos avanzar y cuan future proof queremos ser. Qué riesgo hay de quedar obsoletos. Es importante crear interfaces lo más estándar posible pero también acompañar la evolución de la tecnología. Por ejemplo, AskBosch es un ChatGPT construido para nosotros: mismo engine por detrás pero on-premises y solo con información de la organización. Es una forma de facilitar el acceso a tecnología, minimizando el riesgo de fugas de información.» – Tiago Sacchetti
• «No todo tiene que ser código abierto, pero tiene que ser lo más flexible posible. En nuestro caso solo para casos de uso muy específicos, recurrimos al software comercial. Para nuestras propias soluciones procuramos emplear los modelos más abiertos. Pero lo más importante claro, es tener tus datos ordenados, bien etiquetados, etc.» – Chris Palomino
• «Distinguimos core de negocio y aceleradores. Los aceleradores solemos adquirirlos (por ejemplo a Microsoft) ya que nos ofrecen una puesta en producción muy rápida, ya que no tienen impacto en el core del negocio. En cambio, en el core intentamos desarrollar cosas in house, en los que empleamos lenguajes abiertos que acaban plasmándose en desarrollos propietarios» – Víctor Massip
• «Lo que aporta valor queremos hacerlo in house; no queremos ser cautivos de ciertos servicios y aspectos de herramientas de terceros. Usamos herramientas de código abierto en algunos proyectos y en otras usamos comerciales. Pero en todo caso, nos centramos en la trazabilidad de todo el proceso desde que se ingestan los datos hasta que se toman decisiones» – Alberto López Rodríguez
• Tenemos proyectos que denominamos game changer (IA que nos puede hacer ganar mercado o clientes) y otros basados en productividad. Y cada proyecto valoramos si tiene sentido que lo hagamos nosotros o si alguien lo puede hacer mejor. En nuestro caso, tenemos una relación muy estrecha con Microsoft, que nos garantiza que la información se queda siempre dentro de nuestro tenant y no se comparte» – Javier Pérez Crisóstomo

Retos y Retorno de la inversión

Finalmente, el debate giró en torno a los retos que se enfrentan las empresas a la hora de asegurar un retorno de la inversión (ROI) cuando encaran estos proyectos y que puede ser difícil debido a la naturaleza intangible de algunos beneficios, como la mejora en la toma de decisiones o el aumento de la eficiencia operativa. Además, la rápida evolución de estas tecnologías y la creciente competencia en el mercado, requiere inversiones continuas o asegurarse de que se invierte en tecnologías que van a tener un recorrido a futuro, lo cual no siempre es sencillo. Esto les obliga, concluyen a cambiar el mindset.

• «Hace unos años teníamos que tener claro que teníamos que tener cierta tolerancia al fallo, mientras que ahora tenemos que admitir que vamos a invertir mucho esfuerzo en proyectos en los que puede que no haya retorno directo. Es necesario un un cambio de mentalidad. Por otro lado, no solo se puede invertir en un proyecto, quedarse en un piloto; hay que definir entornos, una estrategia global, tener una visión sobre cómo hacer las operaciones, qué impacto tienen, qué beneficios queremos tener» – Tiago Sacchetti
• «El valor escala igual que el coste. Y en muchos casos, el coste que tienen los modelos no justifican su proposición de valor; la mayoría de las consultas de hecho, no dan un auténtico retorno de valor. Así que lo que hay que plantearse es: ¿cómo me aseguro que el valor crece más que el coste? – Chris Palomino
• En muchos casos el reto pasa por ser capaces de poner una capa de seniority, sobre la IA y el talento junior que trabaja con IA, ser capaces de controlar lo que se puede poner en producción. Es necesario tener más supervisión, más garantías. – Víctor Massip
• «No podemos perder de vista que la IA tiene que aportar valor; tener claro qué ROI vamos a obtener, cuál va a ser el grado de competitividad. Si no, corremos el riesgo de perder el foco de nuestro core business. Todo lo que despleguemos tiene que ser escalable y adaptable a las necesidades futuras; si no, no sirve para nada» – Alberto López Rodríguez
• «Hay que tener en cuenta la vida útil de los proyectos, para tener luz no siempre necesitamos una bombilla LED; es decir, no siempre hay que usar IA generativa para todo, sino la mejor tecnología para el proyecto en cuestión. En nuestro caso, casi todos los proyectos que desarrollamos están basados en machine learning o computer vision. – Javier Pérez Crisóstomo

Otros temas que sobrevolaron sobre la mesa de debate, fue el uso de la IA por parte de los ciberatacantes, cómo debe regularse el uso de la IA dentro de la organización (incluso si es conveniente hacerlo en muchos perfiles y/o escenarios) o el impacto de la regulación.