Qué son las alucinaciones de la inteligencia artificial y cómo lidiar con ellas
Daniel Menal, director y head de Data y Analytics de NTT Data, explica de qué se trata estos comportamientos. La forma en que las compañías pueden reducir estos episodios
La inteligencia artificial generativa sigue pisando fuerte en Latinoamérica. Según una encuesta realizada por la empresa Noventiq, el 68,3% de los directivos encuestados en la región ya implementaron esta tecnología en sus compañías.
La IA generativa atrajo especial atención en la región, y en particular en el ámbito corporativo, por su capacidad de eficientizar procesos. Esta tecnología está reconfigurando la forma de trabajar.
Según el Índice Latinoamericano de Inteligencia Artificial (ILIA), desarrollado por el centro chileno de IA Cenia, con el apoyo del BID, Chile es el país más preparado para la IA en Latinoamérica, seguido de Brasil, Uruguay, Argentina, México, Colombia, Perú, Costa Rica, Panamá, Ecuador, Paraguay y Bolivia.
En este contexto pujante, las compañías necesitan comprender en profundidad los alcances que tiene esta tecnología para poder sacarle el mejor provecho posible. A su vez, es clave entender también los desafíos que plantea la IA para saber cómo responder ante diferentes panoramas que pueden surgir cuando se comienza a aplicar en el ámbito corporativo.
Qué son las alucinaciones de la IA
Se habla de alucinación de la IA cuando la información arrojada por el sistema presenta datos incorrectos o inexactos. En otras palabras: cuando esta tecnología se equivoca o bien inventa datos.
En esta entrevista con Daniel Menal, director y head de Data y Analytics de NTT Data, analizamos en profundidad de qué se tratan estas «fallas en la Matrix» y qué se puede hacer para evitarlas o, al menos, minimizarlas.
«El sistema cruza la información de diferentes fuentes y genera nuevo contenido porque es una modelo generativo y ese nuevo contenido no siempre es real aunque para el modelo sea real», resume Menal.
En relación a cómo evitar que estas cosas sucedan, explica que las soluciones varían según los ámbitos de aplicación.
«En el ámbito de la salud muchas veces hay personas respondiendo o supervisando en tiempo real, porque no se pueden mencionar síntomas o enfermedades solo teniendo en cuenta lo que dice el modelo», remarca el especialista.
Cómo lidiar con las alucinaciones
«El modelo tiene que ser capaz de entender cuando una alucinación sucede. Esto es muy difícil porque hay una variedad muy grande de opciones. Depende del negocio, de lo que se esté preguntando y muchas otras cosas. Hoy la tecnología está trabajando en eso pero no hay algo concreto que permita evitar todos los errores o las alucinaciones», dice Menal.
Una IA generativa, a diferencia de otros modelos de inteligencia, genera algo nuevo a partir de la información que tiene disponible. Si bien se puede configurar el sistema para que sea más o menos creativo, aun cuando se lo restringe puede dar lugar a alucinaciones, ya que no solo busca y reproduce información sino que está produciendo contenido nuevo.
Si bien hoy en día no se puede reducir a cero el riesgo, se puede minimizar de manera significativa.
«Solemos recomendarles a las compañías que comiencen con un proyecto interno donde el impacto de la alucinación no va a ser tan fuerte como si estuviera en contacto con el cliente final», subraya Menal.
Así, por ejemplo, se podría empezar a utilizar esta tecnología en el área de Recursos Humanos para el onboarding de nuevos empleados o bien para supervisar ciertas operaciones, en vez de lanzar directamente la solución de cara al cliente.
Cuidar los datos
El especialista destaca también la importancia de cuidar los datos de las compañías. Usualmente las grandes empresas emplean soluciones de IA generativas que proveen gigantes informáticos como Microsoft, Google o AWS. En general las organizaciones rehúyen a modelos como OpenAI donde los datos pueden ser empleados para entrenar al modelo, advierte Menal.
Lo importante es hacer un acercamiento gradual y medido para que esta tecnología pueda optimizarse para las necesidades del cliente. Existen herramientas para ir ajustando los procesos de modo tal que se pueda emplear la tecnología a favor.
Hoy en día, la gran mayoría de las compañías quieren incorporar IA de algún u otro modo porque ven los beneficios que pueden aportar. Los desafíos que se pueden dar en estos procesos, lejos de funcionar como limitantes, tienen que ser vistos como parte de un camino que se debe transitar a paso firme y seguro.
