El riesgo está en lo que puede tocar

Un agente IA no es peligroso por ser inteligente, sino por lo que puede tocar. Antes de conectarle el correo, el CRM o la carpeta de clientes, haz estas siete preguntas al proveedor, sea cual sea. Si alguna respuesta es vaga, desconfía.

Las siete preguntas

  1. ¿Puedo elegir a qué aplicación accede cada agente? Lo razonable es que el agente de atención al cliente vea el correo y no la contabilidad.
  2. ¿Puedo quitarle un acceso en un momento? Sin llamar a nadie ni esperar a soporte.
  3. ¿Los permisos se comprueban en el servidor? Ocultar un botón en la pantalla no es un permiso. Lo que importa es que el sistema rechace la acción aunque el agente lo intente.
  4. ¿Puedo exigir aprobación antes de las acciones delicadas? Enviar, publicar, pagar o borrar deberían esperar a que una persona diga sí.
  5. ¿Queda registro de qué hizo, cuándo y con qué datos? Si algo sale mal, necesitas poder revisarlo.
  6. ¿Mis documentos están separados de los de otras empresas? Pregunta cómo se aísla cada cliente.
  7. ¿Quién hay detrás y qué hace con mis datos? Empresa, país, política de privacidad y si usa tus datos para entrenar modelos.

Cómo lo resolvemos en iabot

Cada empleado IA tiene permisos por aplicación, comprobados en el servidor, que puedes conectar o desconectar cuando quieras. Tú marcas qué acciones necesitan tu aprobación, y queda un registro de la actividad.

Cada empresa tiene su propio espacio de trabajo, con sus documentos. En los planes con ordenador virtual, además, puedes ver la pantalla mientras el empleado trabaja.

Escrito por el equipo de iabot.io. Las preguntas sirven para cualquier proveedor, incluido el nuestro.

Fuentes y documentación