Riesgos y control
Los cinco riesgos reales de la IA en la empresa son la fuga de datos, la dependencia de un proveedor, los errores invisibles, la erosión de las competencias internas y un coste que supera la ganancia. Ninguno es motivo para no hacer nada, y ninguno se resuelve prohibiendo la herramienta: la prohibición produce un uso clandestino y, por tanto, fuera de control.
Los cinco riesgos
Cada riesgo se presenta tal como se manifiesta en la práctica, seguido de las medidas que aplicamos.
Un comercial pega un contrato en un asistente de consumo para resumirlo. Un desarrollador pega en él código propietario. Nada es malintencionado, nada queda registrado, y la información ha salido de la empresa.
Contramedidas
Los precios cambian, las condiciones de uso cambian, un modelo se retira del catálogo. Si su producción depende directamente de él, sufre esas decisiones sin recurso.
Contramedidas
Una respuesta falsa llega con la misma seguridad que una respuesta correcta. Cuando el volumen aumenta, ya nadie revisa, y el error circula por los documentos hasta llegar al cliente.
Contramedidas
Una competencia que ya no se ejerce se erosiona en dos o tres años. El día en que hay que corregir a la máquina, ya nadie en la empresa sabe juzgar si el resultado es bueno.
Contramedidas
El coste visible es la suscripción. El coste real incluye la integración, la migración de los datos, la formación, el tiempo de verificación y el mantenimiento con cada cambio de versión.
Contramedidas
Ser sustituido
Respuesta breve
La pregunta correcta no es, por tanto, «¿me van a sustituir?», sino «¿qué parte de mi trabajo se puede automatizar, y qué hago con el tiempo liberado?». Es una pregunta que se puede cuantificar puesto por puesto, y es exactamente lo que hace la auditoría.
Para un directivo, el riesgo no es que lo sustituya una máquina. Es que lo adelante un competidor que habrá estructurado sus datos mientras usted esperaba a que el tema se estabilizara. Esa carrera se juega en la organización, no en la tecnología.
Soberanía
Respuesta breve
Mantener el control no es aislarse del resto: es saber exactamente qué conexiones cruzan la frontera, y poder cortarlas.
Gestión
Cuatro reglas bastan para la mayoría de las pymes. Caben en una página y se establecen en una sola reunión.
Una persona, no un comité. No necesita tener perfil técnico; necesita que se le escuche y poder decir que no.
Tiempo ganado en una tarea medida, tasa de error constatada, coste mensual real, número de usos detenidos. El último es el más revelador.
En ella se valida, se prolonga o se detiene. Un uso que no tiene responsable en la segunda revisión se detiene por defecto.
Quién hace qué, con qué herramienta, sobre qué datos. Sin este registro, ninguna de las otras tres reglas es aplicable.
Preguntas frecuentes
Siguiente paso
La auditoría pone sobre la mesa lo que sus equipos ya usan, y aquello a lo que eso le expone realmente.
