97,2% de usuarios anula recomendaciones generadas por IA al menos en algunos casos, señala informe

97,2% de usuarios anula recomendaciones generadas por IA al menos en algunos casos, señala informe

  • Así lo señala un nuevo informe de SAS que ilustra, además, cómo la gobernanza, las políticas de IA responsable y la calidad de los datos están moldeando la adopción de la IA en América Latina.
  • El informe agrega que la mayoría de las organizaciones aún carece de la base de datos necesaria para que la IA sea confiable y rentable.

28 de septiembre de 2026. Un nuevo informe de SAS, desarrollado con hallazgos de investigación de IDC, revela que la IA confiable está impulsando a las organizaciones que obtienen los mayores retornos de la región. De acuerdo con la segunda edición anual de The Data and AI Impact Report, las organizaciones que aplican prácticas de IA confiable tuvieron 15 veces más probabilidades de reportar un sólido retorno de inversión (ROI) en sus proyectos de IA.

El anuncio se compartió en el marco de SAS Innovate on Tour México 2026. Este además encontró que las empresas con las prácticas más sólidas de gobernanza, calidad de datos y capacidad de auditoría obtuvieron de forma consistente al menos el doble de ROI en sus implementaciones de IA, mientras que menos de una de cada 20 organizaciones rezagadas en IA confiable reportó lo mismo.

Un ejemplo de este proceso es México, quien, menciona el documento, su Índice de Confiabilidad aumentó a 66,9 en 2026, por encima del promedio global de 61,3, mientras que su brecha de confianza se redujo de 17 a 6 puntos.

Mario Ulloa, Country Lead de SAS México, explicó que “la confianza en la IA se está convirtiendo en un requisito empresarial, y no solamente en una consideración tecnológica. A medida que las organizaciones en toda América Latina escalan el uso de la IA, aquellas que fortalezcan su gobernanza, sus bases de datos y la explicabilidad estarán mejor posicionadas para convertir la IA en valor empresarial medible”.

Principales hallazgos

Los hallazgos del informe abarcan tres temas:

El primero es que la IA que no puede explicar sus decisiones representa una importante responsabilidad empresarial. En este sentido, los investigadores encontraron que, en muchas organizaciones, los empleados muestran cada vez más dudas a la hora de confiar en sistemas que pueden o no ser capaces de ofrecer resultados correctos o de explicar cómo la IA llegó a una decisión final. A medida que la IA adquiere mayor autonomía, este riesgo aumenta, haciendo que la explicabilidad sea crucial para el éxito.

El informe también exploró uno de los principales obstáculos para el éxito en la adopción de la IA, y es cuando la falta de confianza de los empleados en las decisiones de la IA hace que las anulen y realicen correcciones manuales. Esto solamente perpetúa el déficit de confiabilidad de la IA y puede costarles a las organizaciones tiempo, productividad y rentabilidad. Cuando la toma de decisiones de la IA es tan buena como los datos en los que se basa, construir una base de datos sólida se vuelve fundamental para las organizaciones que buscan reducir las tasas de intervención manual.

Entre otros hallazgos a nivel global se señala que el 97,2% de los usuarios anula las recomendaciones generadas por IA al menos en algunos casos. Además, la principal razón por la que los empleados decidieron anular una decisión de la IA, independientemente de si su resultado era considerado correcto, fue cuando la IA no podía proporcionar una explicación sobre la decisión tomada. Asimismo, la confianza cae del 76% para la IA generativa al 66% para la IA agéntica, lo que pone de manifiesto una creciente preocupación a medida que los sistemas de IA adquieren mayor autonomía.

El segundo de los grandes hallazgos es que las prácticas de IA confiable impulsan el éxito empresarial. En este sentido, el informe revela una creciente brecha en el ROI entre las organizaciones que priorizan las prácticas de IA confiable y aquellas que no lo hacen. Los hallazgos sugieren que las organizaciones que obtienen mayor valor de la IA no necesariamente están implementando tecnologías diferentes, sino que están gestionando la IA de manera distinta.

Específicamente, el informe menciona que las organizaciones que invierten en medidas de IA confiable tienen 15 veces más probabilidades de reportar un ROI sólido o alto en sus proyectos de IA (62% frente a 4%). Además, las organizaciones con las prácticas de IA confiable más sólidas obtienen 1,85 veces mayores beneficios en 13 resultados empresariales distintos, incluidos crecimiento de ingresos, ahorro de costos y experiencia del cliente. Asimismo, el 85% de estos líderes en IA con prácticas confiables está aumentando su inversión en esta área en más de un 10% este año, ampliando activamente la brecha de desempeño.

El tercero de los hallazgos, es que demasiadas organizaciones están perdiendo tiempo y dinero debido a bases de datos deficientes. En este punto, señala el documento, la mayoría de las organizaciones está implementando IA sobre datos e infraestructuras de datos considerablemente subdesarrollados o desactualizados. Sin una base de datos sólida que respalde aspectos fundamentales como la transparencia y la explicabilidad, las organizaciones tienen dificultades para gobernar eficazmente la IA y generar valor.

De acuerdo con el informe, en esta área solamente el 17,5% de las empresas cuenta con una infraestructura de datos totalmente optimizada, suficientemente madura para responder a las exigencias de la IA agéntica, lo que afecta negativamente el desempeño. Además, las organizaciones con una base de datos optimizada tienen cuatro veces más probabilidades de esperar un ROI sólido de sus proyectos de IA y seis veces más probabilidades de exigir los controles de calidad de datos y explicabilidad necesarios para construir confianza.

“Cuando la IA funciona, su impacto es extraordinario. Sin embargo, está ampliamente documentado que los agentes de IA más avanzados pueden presentar tasas de error superiores al 25% en tareas complejas, lo cual es inaceptable en entornos donde las decisiones son críticas. Para lograr precisión y consistencia, las organizaciones deben incorporar experiencia del mundo real y conocimiento del dominio empresarial en los flujos de trabajo agénticos, al mismo tiempo que mantienen a las personas en el centro de la gobernanza y la supervisión. Aquellas que logren ambas cosas cerrarán la brecha de confianza y obtendrán una ventaja competitiva en el mercado”, afirmó Bryan Harris, CTO de SAS.

Por su parte, Chris Marshall, vicepresidente de IDC, mencionó que “a medida que la IA se vuelve más autónoma, las organizaciones enfrentan un nuevo desafío, y es el de mantener la confianza en sistemas que las personas no comprenden completamente. Nuestros hallazgos muestran que una mayor supervisión, explicabilidad, rendición de cuentas y bases de datos sólidas se están convirtiendo en requisitos indispensables para escalar exitosamente la IA”.

¿Qué hace que una IA sea confiable?

La IA confiable es una inteligencia artificial diseñada para ser confiable, justa, segura, cumplir con los estándares regulatorios y ser capaz de mostrar claramente cómo llegó a una decisión.

Los usuarios y responsables de la toma de decisiones de todos los niveles dentro de una organización deben poder exigir que un sistema de IA responda a una cadena de responsabilidad previamente establecida ante resultados incorrectos o ausentes de la IA.

Además, cualquier sistema de IA debe estar gobernado y debe demostrarse que cumple con reglas claramente definidas.

¿Qué hace que una organización sea líder en IA confiable?

Dentro de The Data and AI Impact Report, las organizaciones fueron evaluadas sobre una escala de 100 puntos en cinco dimensiones relacionadas con la IA confiable. Los líderes en IA confiable identificados por el informe fueron aquellas organizaciones con una puntuación total promedio de 80 puntos o más.

Cada organización fue evaluada de acuerdo con los siguientes cinco criterios de IA confiable:

  1. Calidad y gobernanza de los datos.
  2. Gobernanza y supervisión de modelos.
  3. Explicabilidad y equidad.
  4. Política de IA responsable.
  5. Auditoría y rendición de cuentas.
Scroll al inicio