Automatizar no es lo mismo que controlar

Hay una frase que se repite en muchas empresas como si fuera un logro: «ya lo tenemos automatizado». Suena a modernidad, a eficiencia, a que las cosas están resueltas. Pero automatizar y controlar son dos cosas distintas, y confundirlas es uno de los errores más caros que se están cometiendo ahora mismo con la IA. Por eso queremos hablar sobre la correcta forma de automatizar con IA.

Automatizar es que un proceso ocurra solo. Controlar es saber por qué ocurre así, poder explicarlo y poder corregirlo si algo va mal. Muchas empresas tienen la primera parte y ninguna de las otras dos.

¿La automatización se ha convertido en un problema?

Piensa en un sistema de puntuación de leads que decide automáticamente qué clientes potenciales reciben una llamada comercial y cuáles no. Funciona. Ahorra tiempo. Hasta el día en que alguien se da cuenta de que ese sistema lleva meses descartando a un segmento de clientes rentable (no se sabe por qué), y nadie sabe explicar por qué el algoritmo decidió tomar esa decisión, ni desde cuándo, ni cómo revertirla, ni cómo recuperar los datos perdidos.

Ese es el momento exacto en que eso de «automatizar» a pasado a ser una exposición de negocio, y también con carácter normativo. Y no, no hace falta que fuera un sistema de automatización super complejo. Puede ser una simple regla de email marketing que decide qué contactos reciben una oferta y cuáles no, un chatbot de atención al cliente que deriva o descarta consultas según un criterio «X» sin haber sido revisado desde hace tiempo o un sistema de recomendación de producto que lleva meses derivando al mismo catálogo que resulta que es muy limitado. Y todo esto ha ocurrido sin que nadie se de cuenta, y sin que nadie se pregunte por qué está ocurriendo.

Marco normativo de IA

• Reglamento de IA de la UE (AI Act): clasifica los sistemas de decisión automatizada según su nivel de riesgo y exige que las empresas puedan explicar y supervisar cómo funcionan, no solo que realmente funcionan. Por ejemplo, un sistema de scoring «automatizado» que cuesta explicar su flujo al completo, encaja exactamente en lo que el AI Act quiere evitar.
• ISO 42001: exige que cada sistema de IA tenga un criterio definido, un responsable identificado y un proceso de revisión, cuyo objetivo es el «control», frente al simple «automatizar».
• Esquema Nacional de Seguridad (ENS): obliga a supervisar y auditar los sistemas según el nivel de criticidad. Si hacemos referencia a una automatización, que encima no está siendo supervisada y analizada tal y como hemos comentado antes (con un criterio, un responsable y un proceso), lo convierte, en los términos del ENS, es un sistema sin control de seguridad aplicado.

Si quieres empezar a gobernar tu IA, en Bluak, la división tecnológica de Pinchaaqui.es, te ayudamos a darle forma. Cumple y construye el Reglamento de IA con AI ACT Ready.

La trazabilidad es el verdadero indicador de madurez

Con todo esto, no queremos transmitirte la sensación de que se tengan que complicar los procesos por simple burocracia. Simplemente la norma trata de que cualquier sistema automatizado que tome decisiones (ya sea sobre clientes, sobre precios, sobre contenido, sobre personas…), como hemos mencionado, tenga tres cosas: un criterio definido, un responsable identificado y la capacidad de revisar y corregir su comportamiento. Esa es, en esencia, la diferencia entre cumplir con el AI Act y esperar a que alguien externo, una inspección o un cliente, te pida información y ahí descubrir que no lo estabas cumpliendo.

Presta atención a lo siguiente.

Esta trazabilidad, no es solo una cuestión defensiva. Una empresa que puede explicar de forma correcta cómo trabajan sus automatizaciones hace que tenga argumentos frente a: un cliente que pregunta, a un socio que audita, o a un comité de dirección que quiere saber por qué se está invirtiendo en esa herramienta y no en otra.

¿Estás automatizando o controlando?

Antes de celebrar que «ya está todo automatizado», creemos que vale la pena hacerse las siguientes preguntas. ¡Vamos allá!:

• Si el sistema tomara una decisión equivocada durante tres meses, ¿lo detectarías?
• ¿Alguien en tu empresa puede explicar con qué criterio decide este sistema?
• ¿Existe un responsable claro de revisar y ajustar su funcionamiento, o simplemente «buscaremos a alguien que la arregle cuando falle»?
• ¿Sabrías decir, ahora mismo, cuándo fue la última vez que alguien revisó los criterios por los que se rige?

Si alguna respuesta te genera duda, tal vez es cuestión de plantearse si realmente tienes un proceso controlado y que siga los estándares de la normativa. En este caso, del reglamento de IA vigente. Porque , por ahora, parece ser que tienes un proceso que, de momento, no ha fallado de «forma visible», que tu sepas.

Cómo puedes pasar de automatizar a controlar

Estos son algunos de los pasos que puedes empezar a aplicar:

1. Haz un inventario real de qué procesos automatizados con IA toman decisiones y clasifícalos en función de si afectan a clientes, empleados o al negocio.
2. Asigna un responsable a cada uno, como exige la ISO 42001. Esto no significa asignarlo a un departamento genérico sino a una persona que entienda el criterio, el proceso y pueda explicarlo.
3. Define umbrales de revisión, alineados con la clasificación de riesgo del AI Act. Y aquí no nos referimos a si hace falta supervisar cada decisión, pero sí revisar periódicamente si el patrón sigue teniendo sentido.
4. Construye capacidad de corrección, no solo de ejecución. Un sistema que no se puede ajustar no es una automatización, es un piloto automático sin manos en el volante.

La ambición de automatizar está bien. Es, de hecho, parte de cómo crecen las empresas que se toman en serio la transformación digital. Pero para automatizar bien, necesitar un control. Tu control. Tenerlo gobernado y bajo normativa, que cada vez hay más y está más exigente y presente.

Preguntas frecuentes

¿Cuál es la diferencia entre automatizar y controlar un proceso con IA?

Un proceso automatizado es aquél proceso en el que no hay intervención manual. Cuando hablamos de «controlarlo» significa poder explicar, supervisar y corregir cómo ese proceso toma decisiones, tal como exige el Reglamento de IA de la UE para los sistemas de riesgo relevante.

> Puedes saber en cuál de los cuatro niveles de riesgos estás, aquí.

¿Qué exige la ISO 42001 sobre la automatización con IA?

Principalmente, que cada sistema tenga un criterio definido, un responsable identificado y un proceso de revisión periódica.

Más acerca de la ISO/IEC 42001:2023.

¿Qué papel juega el ENS en la supervisión de sistemas automatizados?

Obliga a auditar y supervisar los sistemas según su nivel de criticidad, lo que exige que una automatización tenga control de seguridad aplicado y no solo funcionamiento autónomo.

¿Cómo empiezo a controlar procesos que ya llevo tiempo automatizados?

Con un inventario de qué decisiones automatizadas afectan a clientes o negocio, asignando un responsable y estableciendo revisiones periódicas.

En nuestra división tecnológica, Bluak, tienes un ejemplo de cómo proceder a validar ese inventario. Puedes leerlo aquí y empieza a ¡automatizar con IA controlada!