Como especialista de datos que trabaja analizando grandes volúmenes de información todos los días (y como parte de una consultora de marketing donde nos preocupamos profundamente por la privacidad de nuestros clientes) mi primera reacción ante la reciente filtración masiva de chats de IA en Google fue de alarma genuina. Decenas de miles de conversaciones mantenidas con Claude (el asistente de Anthropic), algunas conteniendo credenciales de acceso, documentos corporativos internos y bases de datos sensibles, quedaron expuestas en internet a la vista de cualquiera que supiera cómo buscarlas.
Si tú también trabajas con datos, la pregunta natural y urgente que surge es: ¿están mis datos a salvo cuando uso inteligencia artificial?
La respuesta corta es: depende de cómo la uses y qué versión estés pagando. Acompáñame a desarmar este incidente desde la mirada de un especialista de datos para entender exactamente qué falló y cómo proteger nuestra información.
El engaño del botón “Compartir” y la falsa seguridad
Por defecto, los chats que tienes con herramientas como Claude son completamente privados. Sin embargo, para facilitar el trabajo en equipo, la plataforma incluyó una función para “Compartir”, la cual genera una URL única que puedes enviar a un colega.
Los ingenieros de Anthropic apostaron por lo que en ciberseguridad llamamos “seguridad por oscuridad”. Asumieron que, al ser un enlace generado con un código alfanumérico largo y complejo, nadie podría adivinarlo. Y tenían razón, nadie lo adivinó. El problema es que en internet las cosas no se adivinan, se rastrean.
Arañas web: El choque técnico que expuso todo
Aquí es donde la parte técnica se vuelve fascinante (y un poco aterradora). Los motores de búsqueda como Google utilizan crawlers o “arañas web” (como Googlebot). Para quienes no estén familiarizados con el término, un crawler es un programa informático automatizado que navega sistemáticamente por internet, descubriendo, escaneando y registrando páginas web para construir los índices gigantescos que hacen funcionar a los motores de búsqueda.
Estos bots recorren internet 24/7 saltando de un enlace a otro. Si un usuario de Claude compartía ese enlace “secreto” en un canal semi-público, un foro de desarrollo, o una red social, el crawler de Google lo encontraba de inmediato e iniciaba el proceso para indexarlo.
Anthropic intentó prevenir esto, pero cometieron un error estructural al configurar las reglas para estos robots. Utilizaron una orden en su archivo robots.txt llamada Disallow, que literalmente le cierra la puerta en la cara al crawler impidiéndole entrar a leer el contenido de la página. Al mismo tiempo, colocaron una etiqueta técnica en la cabecera de la página (noindex a través de X-Robots-Tag) que le decía a Google: “por favor, no me muestres en tus resultados de búsqueda”.
El conflicto fue catastrófico: como la puerta estaba cerrada por el Disallow, el crawler de Google jamás pudo entrar a la página para descubrir y leer la etiqueta noindex. En consecuencia, Google obedeció la prohibición de no leer el texto, pero sí anotó que la URL existía y la añadió a su buscador. Cualquier persona que encontraba ese enlace en Google y hacía clic, podía entrar directamente a leer la conversación entera sin necesidad de contraseñas.
El verdadero riesgo: El Shadow AI con datos de clientes
Más allá del error técnico de la plataforma, el verdadero peligro en agencias y consultoras es el comportamiento humano. Muchos analistas y creativos practican lo que llamamos Shadow AI: usar cuentas personales (gratuitas o Pro) para acelerar su trabajo diario, pegando bases de datos de clientes, segmentaciones de marketing o fragmentos de código sin el conocimiento del departamento de tecnología o seguridad.
Si trabajas con datos confidenciales de terceros, usar estas cuentas de consumo es jugar con fuego. No solo corres el riesgo de generar un enlace público por error, sino que, por defecto, los términos de servicio de las cuentas gratuitas y Pro permiten que tus conversaciones sean utilizadas para entrenar los futuros modelos algorítmicos de la empresa.
Al subir un archivo CSV con perfiles para una campaña, podrías estar infringiendo legislaciones estrictas como la nueva Ley de Protección de Datos Personales (Ley 21.719 en Chile). Al hacer esto, pierdes tu rol legal de “Tercero Mandatario” por procesar datos fuera del mandato explícito de tu cliente, exponiendo a tu agencia a multas millonarias y pérdida de confianza.
¿Cómo blindamos nuestra información?
Para que nuestros datos y, más importante aún, los de nuestros clientes, estén realmente a salvo, debemos dejar de usar herramientas de IA generativa de consumo personal para fines corporativos y migrar obligatoriamente a licencias de clase empresarial.
Para entender la diferencia y por qué esto es vital, es útil conocer la estructura de los planes de Anthropic. Por un lado, la plataforma ofrece suscripciones de consumo individual (Free, Pro y Max), las cuales son excelentes para experimentar o para uso personal, pero carecen de controles de administración y pueden usar tus datos para entrenar a sus modelos por defecto. Por otro lado, los planes corporativos (Team y Enterprise) están diseñados con la seguridad organizacional en mente, ofreciendo facturación centralizada, controles administrativos y garantías de privacidad estrictas.
Al migrar a licencias como Claude Team o Enterprise, estas cambian la arquitectura del servicio por completo:
- Entorno sellado (Walled Garden): El botón de compartir queda estrictamente restringido. Los enlaces solo funcionan para los miembros autenticados de tu propia empresa, haciendo imposible que se filtren a la web abierta.
- Privacidad por defecto: Por contrato, los datos que procesas no se utilizan para entrenar los modelos de la inteligencia artificial, protegiendo tu propiedad intelectual y asegurando la confidencialidad absoluta de tus clientes.
Lo que esto nos enseña
La inteligencia artificial es un copiloto indispensable para los que trabajamos con datos hoy en día, pero nosotros seguimos siendo los pilotos responsables de que esa información aterrice de forma segura.
Tu tarea para hoy:
Si alguna vez usaste tu cuenta de Claude para generar un enlace y compartir un análisis, un copy para redes o un documento de trabajo, entra ahora mismo a tu cuenta. Ve a Settings > Privacy > Shared Chats (Configuración > Privacidad > Chats Compartidos). Ahí verás una lista de todo lo que has hecho público. Haz clic en “Unshare” para revocar el acceso y destruir el enlace. Y a partir de mañana, impulsa en tu empresa la adopción de un entorno corporativo seguro para seguir innovando sin comprometer jamás la privacidad.