5 errores que cometen las empresas al usar IA con datos de clientes

Piensa en el último mensaje que le enviaste a ChatGPT o a Claude. ¿Había un nombre real? ¿Un número de documento (RUT en Chile, DNI en Perú)? ¿El email de un cliente? Si trabajas con información de terceros y usas IA en el día a día, lo más probable es que sí. Casi todas las empresas lo hacen, y muchas creen que están cubiertas porque activaron alguna configuración de “privacidad”. Esas configuraciones suelen apuntar al historial o al entrenamiento del modelo, pero los datos personales salen igual de tu computadora.

A continuación te mostramos los cinco errores más comunes al usar IA con datos de clientes.

Error 1: Pegar datos sensibles directamente en el chat

Este es el clásico. Abres ChatGPT, adjuntas un Excel con nombres, números de documento, sueldos y datos de cuenta, y le pides un resumen. En dos segundos toda esa información salió de tu computadora y quedó en los servidores de ChatGPT.

Mandar datos personales de un tercero a una IA sin resguardo va en contra de las leyes de protección de datos en la mayoría de los países. En Chile, por ejemplo, la Ley 21.719 contempla multas de hasta 20.000 UTM (más de $1.380 millones), y en Perú la ANPDP puede abrir una investigación bajo la Ley 29733.

En la mayoría de los casos no es mala intención sino desconocimiento, porque nadie te avisa que ahí hay un tema legal.

Error 2: Usar planes gratis o personales para trabajar con datos de clientes

Los planes gratuitos y personales de ChatGPT y Claude no incluyen DPA (Data Processing Agreement). Sin DPA no hay contrato que regule cómo se manejan los datos personales de terceros que les entregas. Para la ley chilena o peruana, esa entrega no está cubierta.

Acá se equivoca mucha gente: uno paga ChatGPT Plus o Claude Pro asumiendo que con eso ya está cubierto, cuando la cobertura legal la da el DPA, y el DPA solo aparece en los planes para empresas como Business, Team o Enterprise (desde US$60/mes en ChatGPT, US$50/mes en Claude, y siempre con dos usuarios mínimo aunque trabajes solo).

Error 3: Pensar que desactivar el entrenamiento con tus datos ya te protege

Este es uno de los más difundidos. Buscas en Google cómo proteger tus datos en ChatGPT, aparece el consejo de “desactivar la opción de mejorar el modelo”, lo haces y quedas tranquilo. El problema es que esa opción controla una sola cosa: que tu conversación no se use para entrenar futuros modelos. No cambia nada sobre dónde se procesan los datos.

Cada vez que envías un mensaje, con el entrenamiento activado o desactivado, el texto sale de tu computadora y llega a los servidores de ChatGPT o Claude. Ahí se procesa la respuesta y se retiene según la política del plan. La opción equivalente en Claude funciona igual.

Y la mayoría de las leyes de protección de datos personales del mundo se preocupan justamente por la entrega: el hecho de que le estás mandando información de un tercero a otra empresa. Lo que esa empresa haga después con esos datos, entrenar el modelo o no, es otro tema. Y ojo, el entrenamiento hay que desactivarlo igual y dejarlo siempre así, sin excepciones. Solo que, por sí solo, no alcanza como medida de cumplimiento.

Error 4: Pensar que el modo incógnito o los chats temporales evitan que los datos salgan

Claude tiene chats incógnitos, ChatGPT tiene chats temporales. Cumplen algo parecido: la conversación no se guarda en tu historial, no se usa para entrenar y no queda en la memoria de la herramienta. Como suena a “modo privado”, mucha gente asume que en ese modo los datos ya no salen a los servidores. Otra vez, no es así.

En chat incógnito el mensaje sale hacia el servidor exactamente igual, la respuesta se procesa ahí, y de hecho se guarda por unos 30 días (para revisiones de seguridad) antes de eliminarse. Lo único que cambia es que no queda en tu vista y no se usa para mejorar el modelo. Lo que la ley mira es si el dato salió de tu computadora, no dónde termina archivado después.

Vale la pena detenerse un segundo acá porque el patrón se repite: una opción del producto que suena a privacidad, y que la gente asume que resuelve lo legal. Resuelve lo del historial y lo del entrenamiento, que son otras dos cosas distintas. Y como esas conversaciones no quedan guardadas, tampoco vas a tener registro de qué datos entregaste si algún día alguien te lo pregunta.

Error 5: Suponer que el equipo ya sabe

Puede que tú tengas todo claro. Pero si en la oficina son diez personas, esas diez toman decisiones cada día. Alguien pega la conversación con un cliente (nombre, email, número de cuenta) en ChatGPT para pedirle ayuda con la respuesta. Otro adjunta un Excel al chat para que le arme un cuadro. Ninguno lo hace por mala intención, simplemente no sabe que es un problema.

La responsabilidad legal la carga la empresa, no la persona que copió y pegó. Y esta parte se subestima mucho: en la mayoría de las filtraciones de datos por IA no hay ningún hacker de por medio, sino alguien que quería resolver rápido una tarea. Los controles humanos (“acuérdense de no pegar datos sensibles”) funcionan una semana, y después nadie se acuerda.

Cómo evitar los cinco errores con ZeroPII

Los cinco errores tienen algo en común: en todos, el dato sensible termina saliendo de tu computadora. La opción de privacidad que activaste cubre otro problema, el plan que contrataste te da un marco legal pero no evita que el dato salga, y el equipo tampoco alcanza a revisar cada mensaje. Mientras el dato salga, hay riesgo.

Ahí es donde encaja ZeroPII. Se instala en tu computadora y, antes de que el mensaje se envíe a ChatGPT o a Claude, reemplaza los datos sensibles por etiquetas: los nombres, números de documento, emails o cuentas bancarias se convierten en cosas como “PERSONA_001” o “RUT_001”. ChatGPT recibe el texto con etiquetas, hace su trabajo con eso, y cuando la respuesta vuelve las etiquetas se reemplazan de vuelta por los datos reales en tu computadora. Los datos de tus clientes nunca salen.

Funciona con cualquier plan (gratis, Plus, Pro, Business, Team), en cualquier modo de chat (normal, incógnito, temporal), y con el entrenamiento activado o desactivado. Y como la protección corre sola en cada mensaje, tampoco depende de que cada persona del equipo se acuerde de las reglas.

Preguntas frecuentes

¿Todos estos errores aplican en Chile y Perú?

Sí. La Ley 21.719 de Chile y la Ley 29733 de Perú regulan la entrega de datos personales de terceros. El canal da igual: ChatGPT, Claude, un email o un servicio en la nube. Si los datos salieron sin cobertura, hay problema.

¿Un contador que comete el error 1 puede perder su título?

No de forma automática. Sí puede enfrentar multa personal, demanda del cliente afectado e investigación del Colegio o de la autoridad de datos. El contador es responsable de proteger la información de sus clientes por regla profesional y también por ley.

¿Es caro tener un plan con DPA?

Depende del tamaño. ChatGPT Business cuesta desde US$60/mes con dos usuarios mínimo, aunque trabajes solo. Claude Team cuesta desde US$50/mes con dos usuarios mínimo. Si usas las dos herramientas, sumas los dos. Para un profesional independiente o una empresa chica que no necesita el resto de funciones de esos planes, seudonimizar sale bastante más barato y cubre ChatGPT y Claude al mismo tiempo.

¿La seudonimización es difícil de instalar?

No. Es una instalación de un par de minutos y después queda corriendo de fondo. Cada vez que envías un mensaje con datos sensibles, la herramienta los reemplaza por etiquetas antes de que salgan.

¿Y si la seudonimización falla?

Una herramienta bien diseñada falla del lado seguro: si no puede procesar el mensaje, no lo envía. Prefiere frenar la conversación antes que dejar salir datos sin proteger.