Auditores externos de IA: lo que Anthropic aceptó y lo que puedes exigirle a tu proveedor
Anthropic dio a seis personas de METR acceso casi de empleado y no puede vetar lo que publiquen. Esto es lo que puedes pedirle a tu proveedor de IA.
Quién lo revisa, con qué acceso y si puede publicar sin permiso: las tres preguntas que separan una IA auditada de una apuesta
Seis investigadores de METR entran con acceso casi de empleado y Anthropic no puede vetar lo que publiquen.
El 15 de octubre de 2026, Anthropic anunció que empezó a dar acceso casi de empleado a un equipo de METR, una organización sin fines de lucro que evalúa modelos de IA, y que no puede vetar lo que esa organización publique. Para un negocio que usa IA, la pregunta práctica es si su propio proveedor aceptaría lo mismo.
En resumen
Anthropic anunció el 15 de octubre de 2026 que empezó a dar acceso casi de empleado a seis personas de METR, organización sin fines de lucro que evalúa modelos de IA. Anthropic no puede vetar lo que publiquen, solo exigir que tachen datos de categorías predefinidas, como los de clientes. Tu negocio puede pedirle a su proveedor lo mismo: quién lo revisa, con qué acceso y si puede publicar sin permiso.
- Seis personas de METR con equipo, oficina y herramientas internas
- Anthropic no puede vetar la publicación, pero sí exigir tachaduras
- Estado: anunciado el 15 de octubre; METR publicará sus resultados
Qué anunció Anthropic y en qué punto está
Anthropic anunció el 15 de octubre de 2026 que ya empezó a dar acceso casi de empleado a un equipo de METR, una organización sin fines de lucro que evalúa modelos de IA de frontera. Según el comunicado de Anthropic, METR publicará los resultados de sus evaluaciones de riesgo, y en el último año ya había trabajado con la empresa en varias revisiones de sus Risk Reports.
En qué punto está la noticia
Es un anuncio con una primera fase en marcha, no un producto que puedas activar. Anthropic dice que ya incorporó a seis personas de METR, pero el texto confirma que sus análisis se publicarán más adelante, no que ya estén publicados. Anthropic actualizó su comunicado el 16 de octubre para aclarar los términos actuales del proyecto con METR.
Este paso llega después de que Anthropic dijera, un mes antes, que se comprometía a una evaluación independiente más fuerte de sus modelos y prácticas de seguridad. Además, según la empresa, firmó el White House Accord on Super Intelligence, en el que las compañías se comprometieron a trabajar con auditores o evaluadores externos independientes.
METR no es el único. Anthropic también trabaja con SecureBio y Accenture como evaluadores, y dice estar en conversaciones iniciales con otras organizaciones, entre ellas Hugging Face. La empresa afirma que está haciendo esto de forma voluntaria y que cree que toda empresa de IA de frontera debería hacer lo mismo.
Qué significa «acceso casi de empleado»
El «acceso casi de empleado» significa que seis personas de METR tienen equipo de la empresa, oficina y acceso a herramientas y sistemas internos más o menos al nivel del propio equipo de evaluación de riesgos de Anthropic. Fuera de unas pocas categorías definidas, los empleados de Anthropic están animados a compartirles información como lo harían con un colega que trabaja en riesgos de alineación.
Lo que sí pueden ver
Hardware de la empresa, oficina y herramientas internas, además de visibilidad sobre cómo se entrenaron los modelos y cómo funcionan sus salvaguardas, según los requisitos que Anthropic describe para evaluar bien.
Lo que queda fuera
Datos de clientes, información legal protegida por el secreto abogado-cliente e información sobre la arquitectura de los modelos. Anthropic dice que la arquitectura tiene alto riesgo de filtraciones accidentales.
Anthropic no puede vetar la publicación de METR, pero sí puede exigir que tachen información que caiga en esas categorías predefinidas. METR conserva el derecho de hacer ciertas declaraciones sobre el nivel de acceso e información que recibió, lo que permite a un lector juzgar qué tan profunda fue la revisión.
Quien tacha también decide qué se tacha
Según Anthropic, la empresa decide en última instancia qué información entra en esas categorías. Por eso importa que el auditor pueda decir públicamente cuánto acceso tuvo: es la forma de detectar si las tachaduras fueron razonables.
El acuerdo también tiene límites de seguridad. Anthropic aclara que se limita a un equipo pequeño bajo acuerdos exigibles, que el resto de los empleados de METR queda aislado del trabajo de ese equipo y que no es una vía para que otras organizaciones obtengan información de Anthropic, de sus clientes o de sus socios.
Los tres niveles de acceso
Anthropic está desarrollando tres niveles de acceso para evaluadores, y METR está en el tercero, el más profundo. La diferencia entre niveles es doble: cuánta información ve el evaluador y si puede publicar sin pedir permiso.
| Nivel | Qué ve el evaluador | Publicación |
|---|---|---|
| Primero | Investigaciones de riesgo acotadas; Anthropic decide el acceso | Puede publicar con aprobación de Anthropic |
| Segundo | Más información que en el primero | Puede publicar sin aprobación; Anthropic aún puede exigir quitar categorías, y el evaluador puede opinar si fue justificado |
| Tercero (METR) | Acceso casi de empleado | Derechos de publicación similares a los del segundo nivel |
Los otros socios están en etapas tempranas, así que reciben información más limitada y tienen derechos de publicación más limitados. SecureBio está revisando el capítulo de armas químicas y biológicas del Risk Report de agosto de Anthropic, después de completar y publicar una revisión piloto del informe anterior; luego, Anthropic evaluará pasar a proyectos con más acceso. Con Accenture y Faculty, la empresa busca una alianza que incluye evaluar y poner a prueba modelos (red teaming), evaluaciones de alineación y pruebas de salvaguardas.
Qué pedirle a tu proveedor de IA
Lo que Anthropic aceptó es una buena lista de preguntas para cualquier proveedor de IA, porque su propio comunicado define cuatro condiciones para evaluar bien: experiencia, independencia, acceso suficiente y libertad de publicar. Anthropic compara el esquema con la supervisión bancaria, donde los reguladores asignan examinadores residentes a los bancos más grandes, aunque aclara que la analogía no es exacta.
1. ¿Quién lo revisa por fuera?
Pide el nombre de la organización. Anthropic exige que el evaluador no tenga acciones de la empresa ni dependa de ella financiera u operativamente.
2. ¿Con qué acceso?
Pide saber si el auditor solo prueba el modelo desde fuera o también ve cómo se entrenó y cómo funcionan sus salvaguardas.
Estas tres preguntas son una recomendación de Zadrig Technology construida sobre los criterios que Anthropic publicó, no un estándar oficial. No sabemos qué ofrece cada proveedor, y por eso conviene preguntar y pedir las respuestas por escrito.
- Pide el nombre del evaluador externo y qué ha publicado.
- Pregunta si el evaluador tiene intereses financieros en el proveedor.
- Confirma qué sistemas puede ver el evaluador y cuáles quedan fuera.
- Pregunta si el proveedor puede vetar la publicación o solo tachar categorías definidas.
- Pide que el contrato diga cómo se protegen los datos de tus clientes.
- Si el proveedor solo responde «tenemos revisiones internas», trátalo como una respuesta incompleta.
Aplicación en México y Latinoamérica
Un negocio de México o Latinoamérica que usa IA depende de su proveedor aunque no sea empresa de tecnología: los datos de sus clientes pasan por ese modelo. La noticia de Anthropic no cambia ninguna regla local, pero te da un criterio concreto para preguntar antes de contratar.
Agencias de marketing
Si automatizas reportes o textos de tus clientes con un modelo de IA, ellos te preguntarán quién lo revisa. Tener la respuesta por escrito te evita improvisar frente a un cliente.
SaaS
Si integras un modelo de IA en tu producto, tu proveedor forma parte de tu cadena. Pregunta qué evaluación externa existe y si el evaluador puede publicar sin permiso, porque eso afecta lo que prometes a tus usuarios.
Soporte al cliente
Un agente de IA que atiende por WhatsApp Business API conversa con datos reales de clientes. Antes de ponerlo en producción, pregunta qué revisión independiente tiene el modelo detrás.
Ecommerce
Descripciones, recomendaciones y atención automatizada con IA tocan tu marca y los datos de tus compradores. Pide al proveedor que explique cómo se audita y qué se hace si hay un incidente.
Cómo distinguir una respuesta sólida de una floja
Es un ejemplo ilustrativo y un criterio de Zadrig Technology, no una escala oficial. Está inspirado en la diferencia que Anthropic marca entre evaluadores que publican con aprobación y los que publican sin ella.
Lo que esta noticia no prueba
Auditado no significa seguro
Anthropic presenta esto como «un paso hacia» una supervisión de seguridad robusta y dice que aprende sobre qué tipo de alianzas funcionan. Un auditor externo es una capa más de control, no una garantía de que el modelo nunca fallará.
Tampoco está confirmado cuántos proveedores de IA aceptarían condiciones parecidas, ni qué ofrece hoy cada uno a empresas pequeñas. Lo que sí queda claro es que la pregunta ya tiene precedente: si una empresa de IA acepta que un auditor publique sin su veto, un cliente tiene fundamento para preguntar por lo mismo.
Preguntas frecuentes
¿Qué es METR?
Es una organización sin fines de lucro que evalúa modelos de IA de frontera, según Anthropic. En el último año, Anthropic dice que ya había trabajado con METR en varias revisiones de sus Risk Reports.
¿Anthropic puede impedir que METR publique lo que encuentre?
No, Anthropic no puede vetar la publicación. Sí puede exigir que METR tache información de categorías predefinidas, como datos de clientes, información legal privilegiada o arquitectura de modelos, y la empresa decide qué entra en ellas, aunque METR se reserva el derecho de hacer ciertas declaraciones sobre el acceso que recibió.
¿El acceso de METR a Anthropic ya está funcionando?
Sí, en una primera fase: Anthropic informó el 15 de octubre de 2026 que ya incorporó a seis personas de METR con equipo, oficina y herramientas internas. Sin embargo, es un anuncio y los análisis de METR se publicarán más adelante, así que todavía no hay resultados de este arreglo que podamos citar.
¿Qué le debo preguntar a mi proveedor de IA antes de contratarlo?
Tres cosas: quién lo revisa por fuera, con qué acceso y si esa revisión puede publicarse sin su aprobación. Estas preguntas son una recomendación de Zadrig Technology basada en los criterios de Anthropic, y conviene pedir las respuestas por escrito.
¿Una auditoría externa garantiza que la IA es segura?
No, es una capa más de control y no una garantía. Anthropic misma la describe como un paso hacia una supervisión de seguridad robusta y reconoce que la analogía con la supervisión bancaria no es exacta.
¿Los auditores de METR pueden ver datos de clientes de Anthropic?
No de forma normal: los datos de clientes están entre las categorías fuera del intercambio habitual de información. Anthropic también dice que el acuerdo se limita a un equipo pequeño bajo acuerdos exigibles y que no sirve para que otras organizaciones obtengan información de sus clientes o socios.
Fuentes
Agenda una demostración con Zadrig Technology
Te mostramos cómo usar IA en tu negocio con controles claros y qué preguntarle a tu proveedor antes de contratarlo.
Escríbenos por WhatsApp
