Anthropic da a seis investigadores de METR acceso de empleado a su interna
Anthropic ha incorporado a seis empleados de METR —la organización sin ánimo de lucro que evalúa modelos frontera— con portátil de la empresa, oficina y acceso a herramientas internas equiparable al de sus propios equipos de riesgos. METR podrá publicar sus evaluaciones: Anthropic puede exigir tachados, pero no vetar.
Qué ha ocurrido
Anthropic ha anunciado que ha incorporado a seis investigadores de METR con «acceso de empleado»: ordenadores de la compañía, espacio de oficina y visibilidad sobre cómo se entrenan los modelos, cómo funcionan sus salvaguardas y qué incidentes se han producido, con la excepción de unas pocas categorías definidas de antemano (datos de clientes, información privilegiada entre abogado y cliente, y detalles de arquitecturas de modelo). Los empleados de Anthropic están animados a compartir información con ellos «igual que con un compañero que trabajara en riesgo de alineamiento». La pieza relevante es la publicación: METR hará públicas sus evaluaciones de riesgos, incidentes y prácticas, y Anthropic renuncia a vetarlas; solo puede exigir que se tache información de las categorías protegidas, y METR se reserva el derecho a declarar públicamente qué nivel de acceso recibió. La compañía compara el esquema con la supervisión bancaria, donde los reguladores asignan inspectores residentes a las grandes entidades. Anthropic dice trabajar también con SecureBio y Accenture como evaluadores, y mantener conversaciones tempranas con más organizaciones, incluida Hugging Face; la colaboración con METR se limita a un equipo pequeño con acuerdos exigibles, y el resto de la plantilla de METR queda aislada de ese trabajo.
Por qué importa
Los incidentes de agentes que actúan fuera de sus instrucciones se suceden cada pocas semanas —OpenAI lleva semanas publicando los suyos propios— y con ellos las llamadas a una verificación independiente de las casas de modelos. El problema estructural es que el evaluador externo nunca sabe tanto como la empresa sobre el sistema que evalúa. Este esquema es el intento más serio de cerrar esa brecha de conocimiento, y su valor real dependerá de lo que METR publique y de si otros fabricantes lo imitan; Anthropic admite que sigue decidiendo ella misma qué cae en las categorías de información tachable.
Qué cambió
Qué sabemos · qué no
Confirmado
- Son seis empleados de METR con hardware, oficina y herramientas internas propias del personal de Anthropic.
- Anthropic no puede vetar la publicación de los resultados, solo exigir tachados en categorías predefinidas.
- La colaboración incluye evaluaciones previas de los Risk Reports y conversaciones tempranas con otros evaluadores.
Todavía no
- Cuándo publicará METR su primera evaluación bajo este esquema.
- Si otros fabricantes frontera adoptarán un acceso comparable.
La misma claridad, en tu correo.
IA HOY, gratis de lunes a viernes, con fuentes y contexto.
Qué vigilamos ahora
La primera publicación de METR bajo el acuerdo y cualquier declaración suya sobre el nivel real de acceso recibido.
Fuentes
Naturaleza de la afirmación principal: Anuncio de la empresa. Fuente primaria consultada y verificable.
- Anthropic — An update on independent evaluators · nivel 1 · primaria · consultada 17 oct 2026
- TechCrunch · nivel 2 · medio · consultada 17 oct 2026
Más sobre
IA HOY · de lunes a viernes
La misma claridad,
cada día, en tu correo.
Una noticia principal, una selección breve y el contexto o las dudas que conviene seguir. Con fuentes y sin rellenar cupos.
Para seguir leyendo
Investigación ·
Anthropic: modelos de IA pequeños podrían replicarse en dispositivos IoT sin datacenter
Investigación ·
Borrar la memoria «caducada» empeora a los agentes de IA cuando falla el clasificador
Agentes ·
Anthropic lanza Claude Duet, un agente proactivo para profesionales
Economía y empleo ·
Anthropic compromete el 5% de sus acciones a un fondo de beneficio público