En un acto de frustración contra el uso de inteligencia artificial en la programación, un desarrollador alemán ha insertado instrucciones maliciosas en una popular herramienta de testing para Java, llamada jqwik. La intención era clara: sabotear los proyectos desarrollados por agentes de codificación de IA.
La estrategia consistió en añadir código oculto que, al ser ejecutado por una IA, le ordenaba ignorar instrucciones previas y proceder a la eliminación de tests y código. Para mayor sigilo, se emplearon secuencias de escape ANSI para borrar cualquier rastro de esta inyección prompt en la salida del terminal cuando un humano monitoreaba la actividad. Si bien modelos como Claude Code de Anthropic lograron detectar la instrucción maliciosa sin ejecut arla, el desarrollador de jqwik advierte que el riesgo para los usuarios que no emplean estas salvaguardas es significativo.
Tras la revelación, el desarrollador de jqwik actualizó las notas de la versión para ser explícito sobre su postura anti-IA, desaconsejando firmemente su uso en la herramienta. Incluso se lanzó una versión posterior con una cláusula explícita anti-uso por IA en sus notas de lanzamiento, y se añadió una advertencia directa en la salida estándar de la aplicación, aunque con una opción de configuración para desactivarla. Esta medida busca desincentivar la integración de jqwik en flujos de trabajo de IA, ya que la salida del log puede confundir a estos agentes.
Artículos relacionados de LaRebelión:
- OpenAI IA de Vanguardia para Ciberseguridad Bancaria en Japon
- Mistral AI IA Industrial Vibe y Centros de Datos para Desafiar Gigantes
- IA de Cognicion Codigo Propio Creado por IA Gigantesca Ronda
- Papa Leo XIV IA Desarmada para la Humanidad
- Brecha IA Codigo Claude Filtrado Revela Peligros
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario