Los CIO deben tener cuidado con el ‘lavado de cara’ de la IA – Cyber Tech

La industria TI tiene una larga historia de proveedores que exageran la funcionalidad de sus productos; sin duda, esto también está sucediendo al dar bombo y platillo a la inteligencia synthetic (IA). Ahora, incluso, las empresas usuarias parecen estar exagerando sus capacidades de IA, lo que podría provocarles grandes quebraderos de cabeza.

Los responsables de TI de las organizaciones que se plantean la IA están sometidos a una gran presión -por parte de los consejos de administración, otros ejecutivos y el propio mercado- para poner en marcha iniciativas de IA de gran envergadura. Además, según los observadores, la confusión sobre la definición de IA también puede dar lugar a una exageración involuntaria de las capacidades de IA.

Con la precise fiebre del oro de la IA, las empresas pueden tener la tentación de exagerar sus implementaciones de IA para atraer a inversores y clientes, una práctica denominada ‘lavado de cara de la IA’. No obstante, deberían pensárselo dos veces antes de hacerlo, afirma David Shargel, abogado especializado en cumplimiento normativo del bufete Bracewell.

Los organismos reguladores de EE.UU están atentos a las afirmaciones exageradas sobre IA, y la Comisión del Mercado de Valores de EE.UU anunció en marzo un acuerdo con dos asesores de inversión. La SEC había acusado a las dos empresas de hacer declaraciones engañosas sobre su uso de la IA para el asesoramiento de inversiones, y las empresas hubieron de pagar 400.000 dólares en el acuerdo.

Presión desde arriba

Algunas empresas pueden exagerar su uso de la IA porque no entienden lo que esta engloba, cube Shargel, coautor de una entrada de weblog en enero sobre el lavado de cara de la IA. Pero parece que también se exagera intencionadamente, afirma.

“El lavado de cara de la IA es un fenómeno nuevo, pero en realidad no es más que otro tipo de fraude”, afirma. “Las empresas siempre cometen fraude, y encontrarán nuevas formas de hacerlo, basadas en la nueva tecnología”.

Más allá de los problemas normativos, las empresas que exageran su uso de la IA podrían exponerse a demandas de los accionistas y a una pérdida de confianza de los clientes, añade Shargel.

En otras palabras, la llamada al ingenio de la IA en algunas organizaciones puede resultar en un canto de sirena.

Esto se debe a la fuerte presión a la que se ven sometidos los CIO y otros responsables de TI para adoptar y desplegar con éxito la IA, lo que crea cierto incentivo para la exageración, afirma Kjell Carlsson, responsable de Estrategia de IA en Domino Knowledge Lab, proveedor de una plataforma de IA empresarial.

“Hay una demanda y un deseo increíbles de IA, y cuando dicen IA, se refieren al mandato de la IA generativa”, apostilla. “Es algo así como: ‘Hemos visto el poder de OpenAI; dime cómo vamos a utilizar grandes modelos lingüísticos para transformar nuestro negocio’”.

Las empresas siempre han seguido las tendencias tecnológicas y han intentado subirse al carro, afirma. “En el momento en que apareció ChatGPT, fue asombroso cómo al instante, sobre todo los proveedores de inteligencia de negocio (BI), se lanzaron a desempolvar sus chatbots para poder decir que eran un centro de inteligencia de negocio basado en IA”, añade Carlsson.

Algunos proveedores de BI renombraron sus sencillos chatbots como herramientas de IA y, aunque técnicamente no estaban equivocados, utilizaban sistemas basados en reglas que no se basan en la IA generativa, que es lo que está impulsando el precise auge del mercado, añade.

Ahora, las empresas usuarias, más que los proveedores de tecnología, pueden verse tentadas a hacer lo mismo. Un número récord de empresas del S&P 500, 199, mencionaron la IA en sus convocatorias de resultados correspondientes al primer trimestre de 2024, según el análisis de la empresa de búsqueda de documentos FactSet. El promedio de cinco años para las menciones de IA durante las llamadas de ganancias fue de 80, con un fuerte aumento de las menciones desde el primer trimestre de 2023, poco después del debut de ChatGPT, escribió la compañía en una publicación de weblog.

Confusión e inflación

Esta prisa por asociarse con la IA hace que las empresas miren hacia el crecimiento futuro de los ingresos, en contraposición a los beneficios a corto plazo, una posición atractiva para los inversores, cube Toby Coulthard, CPO de Jacquard, proveedor de una herramienta de IA para la mensajería de marca. La confusión sobre la definición de IA, ya incluya grandes modelos lingüísticos (LLM), redes neuronales, aprendizaje automático o simplemente una aplicación de ciencia de datos, da a las empresas “mucha latitud” a la hora de afirmar que utilizan IA, defiende.

“La motivación intrínseca de hacer algo para preservar o inflar la capitalización del mercado, combinada con un concepto poco definido, conduce a una gran zona gris sobre lo que es apropiado o no”, añade Coulthard. “Hasta que el mercado defina realmente la IA de forma significativa, o hasta que los inversores sopesen la IA de forma más equilibrada, no espero que se ralentice”.

Falta de casos de uso

Una dificultad para los CIO y otros líderes de TI presionados para explorar la IA es que las juntas directivas y los CEO están entusiasmados con la IA generativa y los grandes modelos del lenguaje, pero las herramientas más tradicionales de IA y aprendizaje automático todavía pueden proporcionar muchos beneficios a muchas organizaciones, cube Carlsson de Domino Knowledge Lab.

Aunque la IA generativa muestra un gran potencial, hasta ahora han surgido pocos casos de uso, algunos para sectores específicos como el biofarmacéutico, con un puñado de aplicaciones para la mayoría de las demás empresas, afirma. Los chatbots inteligentes para gestionar las quejas de los clientes se están afianzando, al igual que los asistentes virtuales con funciones de búsqueda empresarial, según Carlsson, quien añadió que han surgido pocos casos de uso para la IA generativa.

“Cuando hablo con organizaciones, incluso con las que han tenido un par de casos de éxito, el abanico de nuevos casos de uso es bastante escaso, y se llega a proyectos aparentemente marginales, desde el punto de vista del valor empresarial, con bastante rapidez”, afirma. “Una empresa con la que hablé me dijo: ‘Nos han sugerido 500 formas de utilizar la IA generativa, y en realidad eran cinco sugerencias repetidas 100 veces’”.

En algunos casos, las empresas están utilizando la IA generativa para cosas que las herramientas de IA más tradicionales pueden hacer, como el análisis básico y la automatización de procesos, lo que puede crear problemas para los líderes de TI, cube. La IA generativa aún puede alucinar, incluso si está afinada, creando un nivel de incertidumbre cuando las herramientas más tradicionales serían más coherentes.

“Se trata de una nueva tecnología que trabaja con nuevos datos y persigue nuevos casos de uso, lo que supone un reto”, afirma. “Te encuentras con que estos modelos no se comportan como los modelos tradicionales. Es un nivel de incertidumbre y riesgo que asusta, y eso dificulta su uso como sustituto de las tecnologías existentes”.

¡Ojo!

Shargel, de Bracewell, aconseja a las empresas que tengan cuidado a la hora de hacer afirmaciones generales sobre sus capacidades de IA. Para evitar el escrutinio normativo, las empresas deben crear una definición de IA para su uso interno y una guía de prácticas regladas.

Los CIO y otros ejecutivos también deberían considerar la posibilidad de revisar sus capacidades de IA antes de hacer afirmaciones, añade. “Lo que las empresas realmente necesitan hacer es pensar en la IA de la misma manera que piensan en cualquier otro tipo de divulgación”, cube Shargel. “Las empresas no hacen revelaciones sobre su condición financiera sin una revisión o auditoría de cumplimiento. Las empresas necesitan tratar las revelaciones sobre tecnología e IA de la misma manera, y necesitan tener la capacidad de evaluar la precisión”.