Anthropic avisa en su salida a bolsa de que podría rozar la automejora recursiva de la IA. Separamos lo que dice el documento de lo que aún solo promete.
Entre las cifras de ingresos y gastos de su S-1/A revisado, Anthropic ha incluido una advertencia que merece más atención que las finanzas: la compañía dice que podría cumplir «de forma inminente» su propia definición de progreso «dramáticamente acelerado atribuible a la IA». Es decir, el umbral de lo que el sector llama automejora recursiva (RSI). Lo cuenta TechCrunch.
Conviene leer con cuidado lo que el documento afirma y lo que no. Anthropic precisa que ninguno de sus modelos actuales ha sido designado como superador de ese umbral y que sigue evaluando los datos. Lo que sí admite es que usa IA en su propia investigación y desarrollo, y que en el pasado no identificó una aceleración significativa hasta después de que ocurriera. Esa frase es, a nuestro juicio, la más inquietante del texto.
El riesgo que describe la empresa es de ritmo: que las capacidades avancen más rápido que su capacidad de desarrollar, validar e implantar medidas de seguridad, alineamiento y protección. No hablamos todavía de un sistema que escapa al control humano, sino de algo más prosaico y por eso más creíble: un proceso interno que acelera sin que nadie lo note a tiempo. Para un lector técnico, el problema es de medición. ¿Qué métrica interna dispara la alarma, y quién la audita?
Anthropic también dice que no espera poder usar Claude para diseñar y construir de forma totalmente autónoma sucesivas generaciones de modelos de frontera sin supervisión humana significativa, y que estudia actualizar su Responsible Scaling Policy para mantener a las personas al mando. Es un compromiso razonable, pero un compromiso al fin y al cabo: el texto habla de «considerar» cambios, no de haberlos hecho.
Hay que recordar también el contexto. Un S-1 es a la vez un documento de divulgación de riesgos y un escaparate ante inversores, y decir que estás cerca de algo que otros consideran transformador no es una comunicación neutra. Sin embargo, tampoco podemos despachar la advertencia como marketing: las capacidades de Claude en programación, matemáticas y ciberseguridad han crecido mucho este año, y en el mismo ecosistema empiezan a aparecer herramientas para agentes, como los hilos de mensajes para la API, que muestran hacia dónde se mueve el trabajo automatizado.
Nuestra lectura es prudente. Lo demostrado es poco: una confesión de que la empresa ya usó IA para desarrollar modelos cuyos saltos no supo reconocer en su momento. Lo prometido es mucho: supervisión humana, revisión de políticas, evaluación continua. Mientras no haya datos verificables por terceros sobre cuánto acelera realmente la IA su propio desarrollo, la mejor respuesta es pedir esas pruebas, y no creer ni descartar el titular sin más.
Artículos relacionados de LaRebelión
Anthropic admite en su salida a bolsa que su IA podría chantajear o salirse de control
Amodei admite que frenar Mythos por seguridad pudo costarle a Anthropic la delantera
Anthropic rebautiza sus planes Claude Max y elimina el límite de cinco horas de UltraFuente original: techcrunch.com
Artículo generado mediante AI.larebelion
Publicar un comentario