Cuando el matemático Alan Turing se planteó la pregunta “¿Las máquinas pueden pensar?” en los años 50, no se imaginó que la Inteligencia Artificial (IA) crecería en esa medida y se fusionara tanto con la sociedad, hasta el punto de remplazar personas por máquinas. Cincuenta años después de ese primer acercamiento con la IA, esta tecnología se ha vuelto parte de nuestro día a día con asistentes de voz, generadores de contenido, etc. 

Sin embargo, el alcance de la IA se ha expandido al sector empresarial y cada día se involucra más en los procesos y toma de decisiones, por eso la adopción de esta tecnología en la actualidad es tan importante como la auditoría de estos procesos. A continuación, revisaremos el desarrollo de esta herramienta y los consejos para una auditoría óptima en las empresas. 

Educación, infraestructura y capacidades de cómputo

Según el Índice global de adopción de IA de IBM en 2022, el 35% de las empresas encuestadas informaron que utilizan IA en sus negocios, y un 42% adicional, informó que están explorando la IA. Estos datos se compaginan con los datos del Fondo Monetario Internacional (FMI) de 2023 que resaltan la importancia de factores como educación, infraestructura y capacidades de cómputo para que países menos competitivos en esta materia como los latinoamericanos puedan entran a contender en un mercado global con cifras significativas como:

• Según la Encuesta de Negocios sobre IA en 2022 de PricewaterhouseCoopers (PwC), los líderes en tecnología utilizan la IA en:

• Un 74% en la toma de decisiones. 
• Un 62% en operaciones y mantenimiento.
• Un 61% en experiencia del cliente.
• Un 60% en estrategia. 

• Según la Encuesta Global de Perspectivas CEO de EY, el 99% de los CEOs encuestados están invirtiendo o planeando inversiones significativas en IA generativa. 
• Según el informe sobre el Estado de la IA 2023 de McKinsey, el 79% de todos los encuestados globales reportan alguna exposición a la IA generativa y el 22% dijo que la está utilizando regularmente. 

Nuevos desafíos para las auditorías 

Con un panorama global con más implementación de la IA y con iniciativas locales como la nueva política nacional de inteligencia artificial de Colombia, pensar en la IA completamente inmersa en ámbitos empresariales es una realidad a corto plazo. Es por eso que las auditorías deben empezar a comprender la IA como una herramienta poderosa que requiere revisión y verificación de sus actividades y alcances. 

Aunque en Latinoamérica no hay leyes que obliguen a comprender los alcances de la IA como sí ocurre en la Unión Europea, es indispensable que cada empresa priorice las auditorías como parte de su crecimiento tecnológico y en miras de un futuro más competitivo, pero también más seguro.  

A la hora de pensar en una auditoría, ya sea interna o externa, es necesario que la empresa pueda proporcionar información relevante que incluya:

• Las políticas y procedimientos, que hacen referencia a la IA, que permiten comprender los procesos de la organización.
• Las iniciativas estratégicas documentadas de la organización o el plan estratégico que incluya los aspectos relacionados con la IA.
• Los informes más recientes de la junta, que contengan la visión e información sobre cómo los líderes de la organización y el órgano de gobierno están discutiendo temas como el uso de la IA y las preocupaciones respecto a riesgos asociados a estas tecnologías.
• Información obtenida durante las reuniones de evaluación de riesgos con las partes interesadas.

Gobernanza, gestión y auditoría interna 

El Instituto de Auditores Internos (IIA) emitió en 2017 la primera versión del primer Marco de Auditoría de IA con el fin de proporcionar a los profesionales de auditoría interna un enfoque de aseguramiento y asesoramiento sobre IA. Sin embargo, aunque el marco se dirige a los auditores, también se describen actividades y funciones necesarias para gestionar la IA dentro de una organización. Es así que para que las empresas entiendan los procesos de IA y de auditoría de la misma, deben comprender los tres dominios del marco emitido por el IIA. 

1. Gobernanza: El Gobierno de IA se refiere a las estructuras, procesos y procedimientos implementados para dirigir, gestionar y supervisar las actividades de IA en la organización. La gobernanza incluye ayudar a asegurar que las actividades, decisiones y acciones relacionadas con la IA sean consistentes con los valores de la organización, así como con sus responsabilidades éticas, sociales y legales. También incluye proporcionar supervisión para asegurar que aquellos empleados con responsabilidades respecto al despliegue de IA cuenten con las habilidades y la experiencia necesarias.
2. Gestión: describe el enfoque que la organización debe seguir al planificar y ejecutar el uso de IA dentro de la organización. El entorno de control interno que rodea a la IA lo establece la Dirección en la “Primera Línea” y contiene aspectos de monitoreo de la IA en la “Segunda Línea”, incluyendo la consideración de cómo la gestión de riesgos empresariales debe supervisar la “Primera Línea”. La primera y segunda línea son entendidas como posiciones de acción frente a la ejecución de la IA. Es decir, primera línea como las acciones más cercanas y la segunda línea como un respaldo que además, supervisa las acciones de la primera línea. 
3. Auditoría interna: La auditoría interna, a menudo debe participar en el proceso de evaluación de riesgos de la organización. Por lo tanto, los aspectos incluidos en este dominio son esenciales para mantener un conocimiento actualizado sobre los riesgos asociados con la IA.

Desafíos más allá de la auditoría

Aunque las empresas cumplan con un marco de dominios pensados para los procesos de auditoría, es innegable que hay desafíos como:

• Hay aspectos de la IA como los algoritmos que son inherentemente complejos.  
• Las capacidades y los riesgos de la IA se multiplican a un ritmo acelerado. 
• La auditoría de la IA es un campo de evolución que aún cuenta con herramientas limitadas y enfoques que aún están en desarrollo. 
• Las oportunidades de formación para mejorar las habilidades de auditoría en IA aún son limitadas. 

Es así que, ante los desafíos, es necesario que las empresas se hagan las siguientes preguntas claves para caminar en pro de un futuro de uso de IA más consciente y segura: 

• ¿Cómo ayuda la IA a alcanzar nuestros objetivos estratégicos? 
• ¿Cuáles son los riesgos y cómo los estamos mitigando? 
• ¿Existen controles internos adecuados en torno a los procesos relacionados con la IA? 
• ¿Los datos que se utilizarán para la IA son completos, precisos y confiables?  
• ¿Cómo se prueba la IA antes de su implementación para garantizar que no existan sesgos? 

Finalmente, para que la implementación, supervisión y verificación de los procesos relacionados con IA sean óptimos, es necesario contar con el equipo adecuado. Con la herramienta de Tusdatos puedes contactar a los profesionales con más experiencia al acceder a un reporte completo del perfil profesional. Además, con Tusdatos pueden acceder a asesoría para implementación de programas de cumplimiento e información de valor relacionada con la IA en las empresas en nuestro blog.