Google DeepMind libera DetectorScope, el detector de IA que explica sus razones
Google DeepMind y la Universidad de Pensilvania liberaron DetectorScope, un detector de texto de IA de código abierto que, en vez de solo dar un veredicto, muestra la frase y el rasgo que lo delataron.
Qué cambia cuando un negocio puede revisar la evidencia detrás de un veredicto de IA
Google DeepMind y la Universidad de Pensilvania liberan un detector de texto de IA de código abierto que señala la frase y la característica detrás de cada veredicto.
Google DeepMind y la Universidad de Pensilvania liberaron DetectorScope, un detector de texto generado por inteligencia artificial que, a diferencia de los detectores comunes, no solo dice si un texto es de IA: señala la frase exacta y el rasgo que lo delató. El proyecto ya está publicado como código abierto en GitHub, se instala con pip y tiene una demostración pública.
En resumen
DetectorScope es un detector de texto de IA de código abierto, liberado por Google DeepMind y la Universidad de Pensilvania, que explica cada veredicto mostrando qué frase del texto y qué característica -como el ritmo de las oraciones o el uso repetido de ciertas palabras- lo convencieron de que fue escrito por una máquina. Según el repositorio del proyecto, la versión explicable iguala el desempeño del detector original frente a 40 generadores de texto distintos, sin perder precisión. Ya se puede instalar y probar; el paper que lo respalda se presentará en la conferencia EMNLP 2026, en Budapest.
- Código abierto, ya instalable con pip install detectorscope
- Señala la frase y la característica exacta detrás de cada veredicto
- El equipo advierte: no debe decidir solo sobre personas
¿Qué es DetectorScope?
DetectorScope es un detector de texto generado por inteligencia artificial creado por investigadores de Google DeepMind y la Universidad de Pensilvania, publicado como proyecto de código abierto en GitHub bajo licencia Apache 2.0. A diferencia de un detector tradicional, que solo entrega una etiqueta de humano o IA, DetectorScope convierte ese veredicto en la suma de características con nombre y evidencia propia: dice qué rasgo del texto activó la alarma y en qué parte del texto aparece.
El proyecto tiene una demostración pública en Hugging Face Spaces para probarlo sin instalar nada, y un paquete de Python, detectorscope, que se instala con pip install detectorscope para integrarlo a un flujo propio.
Cómo funciona por dentro
Un detector de IA común entrena un modelo de lenguaje para clasificar un texto como humano o como generado, y entrega solo esa etiqueta. Según el repositorio del proyecto, DetectorScope abre esa caja negra convirtiendo al detector en lo que los autores llaman un concept bottleneck: un cuello de botella de conceptos interpretables, donde la decisión final es la suma de características con nombre propio.
Leer el interior del modelo
Autoencoders dispersos (SAE) analizan el flujo interno (residual stream) del modelo de lenguaje que hace la detección.
Describir y validar cada rasgo
Cada característica que detectan los SAE recibe una descripción en lenguaje natural, validada contra sus propias activaciones en el texto.
Sumar solo lo validado
Una cabeza lineal dispersa usa únicamente las características que pasaron la validación para dar el veredicto final, cada una con su ubicación exacta en el texto.
Según el repositorio, el valor por defecto de este parámetro es 0.85 y puede moverse de 0.00 a 0.95 en pasos de 0.05: un tau alto deja al detector con pocas características, todas bien descritas; uno bajo admite más características, incluso con descripciones menos precisas, a cambio de más exactitud.
Los resultados: explicar no cuesta precisión
Hacer auditable un detector no significa sacrificar precisión. Según el repositorio de DetectorScope en GitHub, al medir el puntaje F1 en el benchmark COLING y la tasa de verdaderos positivos al 5% de falsos positivos en el benchmark RAID, la versión entrenada (FT-Model+SAE) iguala al detector neuronal original incluso con umbrales de interpretabilidad de 0.7 en adelante. Tanto dentro como fuera de dominio, el efecto de aplicar este método sobre el rendimiento fue mínimo.
| Detector publicado | Dominio y datos | Qué compara |
|---|---|---|
| detector-scope | Dominio abierto: tarea compartida COLING 2025 GenAI Detection (noticias, ensayos, reseñas y más; 40 generadores) | Texto humano vs. 40 generadores de IA distintos |
| detector-scope-peer-review-gpt4o | Dominio cerrado: reseñas de artículos de machine learning (AI Peer Review Detection Benchmark) | Texto humano vs. GPT-4o |
| detector-scope-peer-review-llama | Las mismas reseñas de artículos de machine learning | Texto humano vs. Llama |
¿Lanzado o solo anunciado?
DetectorScope ya está disponible, no es solo un anuncio: el código está publicado en GitHub, se instala con pip install detectorscope, hay modelos descargables en Hugging Face y una demostración pública en línea. Lo que todavía está por venir es la presentación formal del paper que lo respalda, «Building Auditable AI Text Detectors with Sparse Autoencoders», programada para la conferencia EMNLP 2026 en Budapest, Hungría, según el propio repositorio.
Por qué no debe decidir sola sobre una persona
Lo que advierte el propio equipo
Ya hay universidades y empresas usando detectores de IA para decidir sobre personas -evaluar candidatos, calificar alumnos, revisar proveedores- y el equipo detrás de DetectorScope advierte que la herramienta se equivoca, incluso con texto escrito por humanos, y que no debe decidir sola sobre nadie.
- No uses el puntaje del detector como única prueba para rechazar a una persona
- Revisa la evidencia -la frase y la característica- antes de actuar sobre el resultado
- Dale a la persona evaluada la oportunidad de explicar su texto
- Recuerda que el propio equipo advierte que el detector también se equivoca con texto escrito por humanos
Qué significa esto para un negocio en México y Latinoamérica
Para un negocio en México o Latinoamérica que ya usa -o está por usar- un detector de IA para evaluar personas o proveedores, que la prueba se pueda revisar cambia la conversación: ya no es «el sistema dijo que sí», sino una frase y una razón concretas que se pueden discutir.
Reclutamiento y RRHH
Agencias y empresas que filtran cartas o pruebas de candidatos con un detector de IA pueden ahora revisar qué frase disparó la alarma, en vez de confiar en un semáforo sin explicación.
Educación
Universidades y escuelas que evalúan ensayos de alumnos ganan evidencia revisable, aunque -como advierte el propio equipo- esto no debería ser la única prueba para sancionar a un estudiante.
Agencias y contenido
Agencias que subcontratan redacción a proveedores o freelancers pueden auditar un texto sospechoso y discutir un hallazgo concreto, no solo un veredicto genérico.
Ecommerce y soporte
Tiendas en línea que reciben reseñas o mensajes sospechosos de estar generados por IA pueden revisar la evidencia antes de descartar a un cliente o proveedor.
Cómo se ve un veredicto explicado
Probar la demo sin instalar nada
DetectorScope tiene una demostración pública en Hugging Face Spaces, pensada para probar el detector sin instalar nada.
Instalar el paquete
Para integrarlo a un flujo propio, se instala con pip install detectorscope en un entorno de Python.
Cargar un detector y leer la evidencia
Con AuditableDetector.from_pretrained se carga uno de los modelos publicados, y el resultado incluye el campo features con cada característica, su peso y su ubicación en el texto.
Así se ve un veredicto explicado (ejemplo de la documentación)
Este es el ejemplo que trae la documentación oficial de DetectorScope en GitHub. Además de la característica principal, el detector reportó frases repetidas (+0.14) y una muletilla conversacional como like I said que en realidad restó puntos a la IA (-0.05). Es un ejemplo de la documentación, no un caso real de un negocio.
¿Qué es DetectorScope?
DetectorScope es un detector de texto generado por inteligencia artificial, creado por Google DeepMind y la Universidad de Pensilvania, que además de decir si un texto es de IA explica con evidencia por qué lo marcó: señala la frase y la característica exacta, según el repositorio publicado en GitHub.
¿Ya se puede usar DetectorScope o solo fue anunciado?
Sí, ya se puede usar: el código está publicado en GitHub, se instala con pip install detectorscope y hay una demostración pública en Hugging Face. Lo único pendiente es la presentación formal del paper en la conferencia EMNLP 2026, en Budapest.
¿DetectorScope es gratuito?
Sí, es un proyecto de código abierto bajo licencia Apache 2.0, descargable e instalable sin costo desde su repositorio en GitHub.
¿Qué tan preciso es comparado con un detector de IA normal?
Según el repositorio del proyecto, la versión explicable iguala el desempeño del detector neuronal original -incluso con los umbrales de interpretabilidad más altos- con un efecto mínimo sobre la precisión en las pruebas con los benchmarks COLING y RAID.
¿Puedo usar DetectorScope para decidir si rechazo a un candidato o un alumno?
No debería ser la única prueba. El propio equipo detrás del proyecto advierte que el detector se equivoca, incluso con texto escrito por humanos, y que no debe usarse solo para decidir sobre una persona.
¿Quién creó DetectorScope y dónde se presentará la investigación?
Lo crearon investigadores de Google DeepMind y la Universidad de Pensilvania -entre ellos Liam Dugan, Callum Stuart McDougall, Matthew Denton, Philip Pham, Christine Kaeser-Chen y Chris Callison-Burch- y el paper se presentará en la conferencia EMNLP 2026, en Budapest, Hungría.
Fuentes
¿Tu negocio usa detectores de IA para evaluar personas?
En Zadrig Technology ayudamos a empresas en México y Latinoamérica a implementar herramientas de inteligencia artificial -como detectores de texto o agentes- con los controles y la evidencia que un negocio necesita antes de usarlas para decidir sobre candidatos, alumnos o proveedores. Agenda una demostración con nuestro equipo.
Escríbenos por WhatsApp
