Un estudio de IDC patrocinado por SAS revela que la falta de explicabilidad lleva a los usuarios a corregir decisiones de Inteligencia Artificial, mientras las empresas con prácticas de IA confiable reportan mejores resultados de inversión.

La confianza en la Inteligencia Artificial todavía tiene un límite claro: el 97,2% de los usuarios reconoce que revisa, anula o corrige recomendaciones generadas por IA en al menos algunos casos. Según un nuevo estudio de IDC patrocinado por SAS, una de las principales razones es que los sistemas no siempre logran explicar cómo llegaron a sus resultados.

El dato forma parte del segundo informe anual Data and AI Impact Report: The New Economics of Trust, elaborado por IDC y patrocinado por SAS. La investigación analiza qué factores permiten a las organizaciones convertir sus inversiones en Inteligencia Artificial en resultados concretos.

El estudio plantea que el desafío para las empresas ya no consiste únicamente en incorporar IA, sino en generar las condiciones necesarias para confiar en sus resultados. Cuando una recomendación no puede comprenderse o verificarse, aumenta la revisión humana y parte de la eficiencia esperada puede perderse.

Explicar los resultados es clave

La falta de explicabilidad puede generar una paradoja: una herramienta diseñada para agilizar procesos puede terminar requiriendo más tiempo de revisión y corrección manual.

Por ello, el informe identifica cuatro elementos como fundamentales para avanzar hacia una IA confiable: explicabilidad, calidad de los datos, gobernanza y auditabilidad. Estos factores permiten a las organizaciones comprender mejor cómo funcionan sus sistemas y establecer mecanismos para supervisar sus resultados.

El desafío adquiere una nueva dimensión con el avance de la IA agéntica, sistemas capaces de ejecutar tareas y tomar acciones con mayores niveles de autonomía y sin una intervención humana permanente.

De acuerdo con la investigación, la confianza de los usuarios disminuye de 76% frente a la IA generativa a 66% cuando se trata de IA agéntica. Esta diferencia refleja las mayores exigencias que aparecen cuando las personas delegan acciones a sistemas que operan con mayor autonomía.

El informe también advierte que los agentes de IA más avanzados pueden registrar tasas de error superiores al 25% en tareas complejas, lo que refuerza la necesidad de mantener supervisión humana y conocimiento especializado del negocio.

“Cuando la IA funciona, su impacto es extraordinario. Sin embargo, está bien documentado que los agentes de IA más avanzados pueden tener tasas de error superiores al 25% en tareas complejas, lo cual es inaceptable en entornos críticos de toma de decisiones. Para lograr precisión y consistencia, las organizaciones deben incorporar conocimiento del dominio de negocios del mundo real en los flujos de trabajo agénticos, manteniendo a los humanos en el centro de la gobernanza y la supervisión. Aquellas que hagan ambas cosas cerrarán la brecha de confianza y obtendrán una ventaja competitiva”, señala Bryan Harris, CTO de SAS.

La confianza también impacta el retorno

Para las empresas, fortalecer la confianza en la IA no es solo una cuestión tecnológica. Según el estudio, las organizaciones que implementan prácticas sólidas de IA confiable tienen 15 veces más probabilidades de reportar un ROI alto o sólido.

En concreto, el 62% de las organizaciones con prácticas avanzadas de IA confiable reporta un ROI alto o sólido, frente a apenas un 4% entre aquellas que presentan mayores rezagos en esta materia.

Los datos muestran así una relación entre la capacidad de gobernar y supervisar los sistemas de IA y los resultados que las empresas esperan obtener de sus inversiones.

Datos preparados para la IA agéntica

Otro de los desafíos identificados por la investigación está en la infraestructura de datos. Solo el 17,5% de las empresas cuenta con una base de datos completamente optimizada y madura para las exigencias de la IA agéntica.

La preparación de los datos también aparece vinculada a las expectativas de retorno. Las organizaciones que cuentan con datos optimizados tienen cuatro veces más probabilidades de esperar un ROI elevado y seis veces más probabilidades de exigir controles de calidad de datos y explicabilidad.

En este escenario, el avance de la Inteligencia Artificial plantea nuevas exigencias para las organizaciones. A medida que la IA pasa de ser una herramienta de apoyo a operar con mayores niveles de autonomía, comprender, supervisar y auditar sus resultados se vuelve cada vez más relevante.

Así, la pregunta para las empresas no se limita a qué puede hacer la IA. También apunta a si cuentan con los datos, la gobernanza, la explicabilidad y la supervisión necesarias para confiar en lo que hace y convertir esa tecnología en resultados concretos.