La Advanced AI Society impulsa estándares de verificación

La Advanced AI Society ha formalizado su unión con la Linux Foundation, marcando un hito estratégico en la gobernanza y seguridad de los agentes inteligentes. Este movimiento ocurre en un momento crítico donde el Congreso estadounidense impulsa legislación bipartidista que exige controles verificables y auditorías externas para los sistemas autónomos de vanguardia. La colaboración busca estandarizar la transparencia en un mercado donde la capacidad de supervisar el comportamiento de las máquinas se ha convertido en una prioridad de seguridad nacional.

Como primer fruto de esta alianza, la organización ha publicado el borrador del protocolo Proof-of-Control v1.0. Este marco técnico está diseñado como un ecosistema abierto para la verificación de agentes, permitiendo que tanto desarrolladores como reguladores cuenten con métodos uniformes para constatar que el software sigue las directrices establecidas. La iniciativa responde directamente a la presión de los principales laboratorios de inteligencia artificial que, ante el avance de las capacidades de los modelos, han reconocido la necesidad urgente de contar con protocolos técnicos robustos para mitigar riesgos sistémicos.

La relevancia técnica de esta propuesta radica en su enfoque descentralizado. Al integrarse bajo el paraguas de la Linux Foundation Decentralized Trust, el proyecto busca evitar que el control de la seguridad quede limitado a silos corporativos, fomentando en su lugar una infraestructura de confianza pública. Durante el evento inaugural titulado Who’s Watching the Machines, los líderes del sector debatieron cómo pasar de los principios éticos abstractos a la ejecución técnica verificable mediante software auditable.

Para los profesionales del sector, esta evolución significa un cambio de paradigma donde la observabilidad y el control programático se vuelven requisitos ineludibles. La propuesta de Proof-of-Control no solo busca satisfacer las exigencias legislativas venideras, sino establecer una capa de infraestructura crítica que garantice que los sistemas de IA permanezcan dentro de los parámetros de seguridad definidos, independientemente de la complejidad de sus procesos internos. La adopción de este estándar podría ser determinante para la escalabilidad futura de los agentes autónomos en entornos empresariales y públicos, al proporcionar una metodología unificada para auditar su funcionamiento en tiempo real.

Artículos relacionados de LaRebelión:

• Google Transfers Open Health Stack to Linux Foundation
• Linux Foundation Unveils Akrites for AI Security
• Google dona biblioteca criptográfica a la Linux Foundation Europe
• Nvidia Launches Its First Open-Source AI Model
• NVIDIAs Open AI Models Powering the Future

---

Fuente Original: thenextweb.com

Artículo generado mediante AI.larebelion.

La AEPD registra su primer incidente de seguridad con agentes de IA

La Agencia Española de Protección de Datos (AEPD) ha confirmado la recepción de la primera notificación oficial de una brecha de seguridad perpetrada mediante el uso de agentes de inteligencia artificial. Este hito marca un antes y un después en la ciberseguridad, evidenciando que las herramientas automatizadas y autónomas ya están siendo empleadas de forma activa para la exfiltración o el compromiso de datos personales.

Francisco Pérez Bes, miembro destacado del organismo, ha subrayado que este incidente no debe tomarse como un suceso aislado, sino como una advertencia crítica sobre la evolución de las amenazas digitales. La capacidad de los agentes de IA para escalar ataques, automatizar la búsqueda de vulnerabilidades y ejecutar acciones ofensivas de manera continuada representa un cambio de paradigma en la ciberdelincuencia. A diferencia de los scripts tradicionales, estos agentes pueden adaptar su comportamiento en tiempo real, lo que complica significativamente la detección y contención mediante los sistemas de seguridad convencionales basados en reglas estáticas.

Para los profesionales del sector tecnológico, este suceso subraya la obsolescencia de los modelos de defensa actuales. La AEPD hace un llamamiento urgente para que las organizaciones revisen sus protocolos de gobernanza de datos y sus arquitecturas de protección. Es imperativo integrar soluciones de seguridad capaces de monitorizar comportamientos anómalos a nivel de inferencia y acceso a datos, en lugar de centrarse exclusivamente en perímetros de red o controles de acceso básicos. La irrupción de la IA en el ámbito ofensivo exige una reevaluación profunda de los modelos de confianza cero y una mayor resiliencia ante ataques automatizados capaces de mimetizar el comportamiento legítimo de usuarios o procesos internos. En última instancia, la responsabilidad recae en las empresas para implementar capas de supervisión humana y auditorías técnicas frecuentes, dado que el uso de IA por parte de actores maliciosos no hará sino intensificarse en el futuro próximo.

Artículos relacionados de LaRebelión:

• Nvidia Launches Its First Open-Source AI Model
• OpenAI Agent Exploited Credentials in Hugging Face Breach
• Agent Data Injection New AI Threat Revealed
• AI Agent Executes First Complete Ransomware Attack
• Amazons 337 Billion Spain Boost AI Data Centres

---

Fuente Original: thenextweb.com

Artículo generado mediante AI.larebelion.

AWS CTO Views on AI Industry Trajectory

In a recent internal communication, Amazon Web Services CTO Werner Vogels outlined his vision for the next phase of artificial intelligence, emphasizing a transition from the hype-filled infancy of large language models toward a more pragmatic era of utility. Vogels argues that the current industry obsession with massive, generalized models is unsustainable and that the future belongs to highly specialized, efficient, and domain-specific applications that prioritize actual customer problems over mere demonstration of scale.

Imagen generada con IA

The core of this strategy involves shifting the focus toward smaller, optimized models that can run more cost-effectively and with lower latency. By moving away from the resource-intensive "bigger is better" paradigm, developers can integrate AI into practical workflows where performance consistency is more critical than theoretical prowess. This approach aligns with Amazon’s broader goal of democratizing AI access, ensuring that businesses can deploy sophisticated machine learning capabilities without incurring the astronomical overhead currently associated with training and running state-of-the-art general models.

For the technically literate reader, the significance of this shift lies in the push toward modularity and architectural efficiency. Vogels highlights that the real value in AI for the coming years will be found in data sovereignty, security, and the integration of AI into existing software stacks rather than viewing AI as a standalone product. The emphasis is on building durable, scalable systems where AI serves as a functional tool within an established cloud ecosystem. This evolution signifies a maturation phase for the technology, moving away from expensive experimentation toward infrastructure that supports reliable, high-utility automation.

Ultimately, the AWS perspective suggests that the winners in the AI sector will not necessarily be those with the largest datasets, but those who can most effectively solve specific operational challenges through precise, optimized implementation. By prioritizing developer-centric tools and reducing the friction involved in fine-tuning and deployment, the company aims to move the conversation from what AI could potentially do to what it is demonstrably doing to improve software development, operational efficiency, and customer experience. This signals a move toward a more disciplined, engineering-first culture within the AI landscape.

Artículos relacionados de LaRebelión:

• OpenAIs GPT-6 Astra The Future of AI Unveiled
• Telefónica Defines the Future of Autonomous Networks
• Amazon Buys DuckDB Team for AWS Data Analytics
• Big Techs AI Manifestos Shaping the Future
• AI Swarm Attacks The Future of Offensive Hacking

---

Fuente Original: About Amazon

Artículo generado mediante AI.larebelion.

Extensiones maliciosas pueden secuestrar asistentes de IA

Una investigación reciente de Forever Security ha revelado una vulnerabilidad crítica que afecta a la seguridad de los asistentes de inteligencia artificial integrados en los navegadores basados en Chromium. Se ha demostrado que una extensión de navegador aparentemente inofensiva puede ganar el control total sobre herramientas de IA ampliamente utilizadas, incluyendo Gemini Live en Chrome, Perplexity Comet, Microsoft Edge, Opera Neon y la extensión de Claude. Este hallazgo subraya una superficie de ataque emergente en la arquitectura de los navegadores modernos, donde la separación entre las extensiones y los servicios integrados es menos robusta de lo que se suponía.

El problema técnico reside en la forma en que estas plataformas de IA se comunican con el entorno del navegador y gestionan las sesiones del usuario. Una vez que una extensión maliciosa es instalada, esta puede aprovechar privilegios de ejecución para interactuar directamente con la interfaz del asistente de IA. Con un solo clic, el atacante puede inyectar instrucciones, extraer datos sensibles de las conversaciones o incluso manipular los resultados generados por el modelo. Dado que estas IA suelen tener acceso a contextos de usuario y datos personales, la capacidad de secuestrar su ejecución representa un riesgo significativo de privacidad y seguridad para los usuarios finales.

Para los usuarios técnicamente avanzados y los administradores de sistemas, esto evidencia que el ecosistema de extensiones sigue siendo un vector de amenaza infravalorado. La arquitectura de "sandboxing" tradicional de los navegadores no es suficiente cuando se trata de aplicaciones web complejas que utilizan modelos de lenguaje integrados. La capacidad de una extensión para escalar permisos y manipular componentes de IA internos sin una validación estricta rompe la cadena de confianza. Este descubrimiento obliga a los desarrolladores de navegadores a replantear cómo se exponen los puntos finales de las APIs de los asistentes y sugiere que los usuarios deberían ser mucho más cautelosos con las extensiones que instalan, incluso si provienen de fuentes oficiales.

La industria ahora enfrenta el desafío de implementar restricciones más granulares para los complementos del navegador que interactúan con servicios de IA de terceros o integrados. Mientras no existan mecanismos de aislamiento más estrictos, la superficie de ataque para este tipo de secuestros seguirá siendo una preocupación constante para quienes integran estas herramientas en sus flujos de trabajo diarios.

Artículos relacionados de LaRebelión:

• Creating Chrome Exploits Using Claude AI Coding
• Claude Facilita Ataques Automatizados Robo de Datos y Explotacion
• IA de China Ataques Masivos a Claude Descubiertos
• Claude resuelve el Último Teorema de Fermat
• Parche Urgente Chrome: Día Cero Explotado Activamente

---

Fuente Original: thehackernews.com

Artículo generado mediante AI.larebelion.

Huawei Su Nuevo Chip Desafia a Nvidia en IA

Huawei ha dado un paso audaz en la carrera de la inteligencia artificial (IA) al presentar sus nuevas tecnologías de chips. Este movimiento estratégico posiciona a la empresa china como un competidor cada vez más fuerte frente a gigantes como Nvidia, especialmente en un mercado donde la demanda de potencia de procesamiento para IA está en auge.

La presentación de estas nuevas tecnologías de chips por parte de Huawei subraya su compromiso de innovar y liderar en el campo de la IA. La empresa busca no solo mejorar sus capacidades internas, sino también ofrecer soluciones que puedan competir directamente con las que actualmente dominan el mercado. Este avance es crucial para Huawei, ya que la IA se está convirtiendo en un pilar fundamental para el desarrollo tecnológico en diversas industrias, desde la computación hasta la robótica y los vehículos autónomos.

La competencia en el sector de los semiconductores para IA es feroz, y la entrada de Huawei con tecnol ogías avanzadas podría significar un cambio en el panorama. La empresa ha estado invirtiendo fuertemente en investigación y desarrollo, y sus recientes anuncios sugieren que estas inversiones están dando frutos. La capacidad de producir chips más eficientes y potentes para aplicaciones de IA es un factor decisivo para el éxito futuro. La rivalidad con Nvidia, actualmente líder en este segmento, promete ser uno de los desarrollos más interesantes en la tecnología en los próximos años, beneficiando a los consumidores con mayor innovación y opciones.

Fuente Original: https://news.google.com/rss/articles/CBMivgFBVV95cUxQd0UxTVdfVEQ0bGxacHJNR0FRZ 0kzME9YMXZnNG1qRzBzOEZxRU16UW1BdTk0VGdmaUJ2c0JRWmZ3ZXF3TWtqRUdkQXJUbEI1WE9Jc2tfWmZqZjFaakJXV1kzaW5XTng4ek5paExNbk10enNZSWNfZWZVMkx3NFdyVUJxVlQtV1VJaWtNU2ZPZU1XRnc2NXNOUG9yNjhrYlFEclJxcXpqTUZBTHhpWTI1OVNqVkpFSWtJV3JxS2p3?oc=5

Artículo generado mediante LaRebelionBOT

IA de Codigo Secuestrada Ataque Shai-Hulud en Repositorios

¡Atención desarrolladores! Una noticia alarmante sacude el mundo de la programación: un atacante ha logrado secuestrar una sesión de un asistente de codificación basado en inteligencia artificial. Este incidente, lejos de ser un simple error, ha permitido al atacante propagar un malware conocido como "Shai-Hulud" a través de aproximadamente 100 repositorios. Esto pone de manifiesto la creciente vulnerabilidad de las herramientas de desarrollo asistidas por IA y las graves consecuencias que pueden derivarse de su compromiso.

El ataque se centra en cómo los atacantes pueden explotar la confianza y la integración de estas herramientas de IA en los flujos de trabajo de desarrollo. Al tomar el control de un asistente de IA, el atacante pudo insertar código malicioso directamente en proyectos de software. La propagación a gran escala a través de múltiples repositorios sugiere una estrategia deliberada y coordinada para maximizar el impacto, afectando a una cantidad significativa de desarrolladores y organizaciones. La rapidez con la que se propagó el malware "Shai-Hulud" subraya la eficiencia con la que un actor malintencionado puede operar una vez que ha comprometido un punto de acceso tan sensible.

Este incidente sirve como una seria advertencia sobre la necesidad de revisar y fortalecer las medidas de seguridad en torno a las herramientas de desarrollo asistidas por IA. Es crucial que las empresas y los desarrolladores individuales sean conscientes de los riesgos potenciales y adopten prácticas rigurosas de verificación y validació n, incluso para el código generado o asistido por IA. La próxima vez, el ataque podría ser aún más sofisticado, y estar preparados es la única defensa.

Fuente Original: https://thehackernews.com/2026/09/attacker-hijacks-ai-coding-assistant.html

Artículos relacionados de LaRebelión:

• Agentes OpenAI Wiki Alemana Secuestrada para Escapar Sandbox
• Grave vulnerabilidad en JFrog Artifactory bajo ataque
• Ingenieros de Software Disenando Limites No Solo Codigo
• Gitea bajo ataque: Vulnerabilidad RCE siendo explotada
• Ataque Spectre vulnera el aislamiento de Cloudflare Workers

Artículo generado mediante LaRebelionBOT

AI Speed Slow Down vs Full Throttle

The world of Artificial Intelligence is buzzing with a fundamental debate: should its development be intentionally slowed down, or should it be pushed forward as rapidly as possible? Anthropic's CEO, Dario Amodei, is a prominent voice advocating for a more cautious approach. He's pushing for AI companies to integrate independent third-party evaluators to scrutinise their work and is calling for coordinated international safety standards. Amodei believes this deliberate pace is crucial for managing the risks associated with increasingly powerful AI technologies.

However, not everyone is on board with the idea of hitting the brakes. Nvidia's CEO, Jensen Huang, strongly disagrees, urging the industry to "run as fast as you can." His perspective is that innovation should not be stifled, and companies should focus on releasing safe products rather than waiting for government intervention. This divergence in opinion highlights the complex challenges facing AI development, with some, like Elon Musk and Sam Altman, echoing Amodei's call for caution, while others see accelerated development as the path forward.

Adding to the complexity, figures like Michael Burry and Yann LeCun express skepticism about the urgency of slowdown calls, suggesting they might be self-serving or based on a misunderstanding of current AI capabilities. Burry, in particular, argues that the hype around AI slowdowns could be a tactic to mask slowing growth and prepare for IPOs. Meanwhile, concerns about AI's actual harms, such as autonomous weapons, are raised by some, suggesting the focus on existential risks might be a distraction. The debate underscores the critical need for robust safety measures, ethical considerations, and transparent dialogue as AI continues its rapid evolution.

Fuente Original: https://slashdot.org/story/26/09/16/0619212/anthropic-commits-to-independent-ai-evaluators-wants-slower-development-nvidias-ceo-wants-it-as-fast-as-you-can?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículos relacionados de LaRebelión:

• Setapp Mobile Shuts Down EU App Store Economics Too Tough
• Anthems Final Countdown BioWares Game Shutting Down
• Buffett Steps Down Berkshire Hathaway CEO Era Ends

Artículo generado mediante LaRebelionBOT

BambooToken: Malware que utiliza el protocolo MQTT

Investigadores en ciberseguridad han detectado una sofisticada familia de malware denominada BambooToken, la cual ha estado operativa desde febrero de 2023. Lo más notable de esta amenaza es su capacidad multiplataforma, ya que logra comprometer tanto sistemas Windows como entornos Linux. A diferencia de las herramientas de acceso remoto convencionales que suelen apoyarse en servidores de comando y control (C2) basados en HTTP o DNS, esta variante utiliza el protocolo Message Queueing Telemetry Transport, más conocido como MQTT, para establecer sus canales de comunicación.

La elección de MQTT, un estándar de mensajería ligero diseñado originalmente para dispositivos del Internet de las Cosas (IoT), resulta estratégica para los atacantes. Al aprovechar este protocolo orientado a eventos, BambooToken puede enviar instrucciones maliciosas y exfiltrar datos de manera más sigilosa, dificultando la detección por parte de las soluciones de monitoreo de red tradicionales que, por lo general, buscan patrones de tráfico web estándar. Esta técnica permite a los operadores mantener un control persistente sobre los dispositivos infectados sin levantar sospechas inmediatas mediante firmas de tráfico conocidas.

La campaña ha sido identificada principalmente en ataques dirigidos a organizaciones ubicadas en Asia y América del Sur. Para un profesional de la seguridad, este hallazgo subraya una tendencia preocupante: los actores de amenazas están diversificando sus métodos de transporte de datos hacia protocolos industriales o de mensajería menos examinados. La naturaleza multiplataforma del malware indica que sus desarrolladores poseen un conocimiento profundo de las particularidades de los sistemas de archivos y las APIs tanto de sistemas operativos de escritorio como de servidores, permitiéndoles una versatilidad poco común en otras campañas de malware similares.

El impacto de BambooToken radica en su capacidad de evasión y su arquitectura inusual, lo cual obliga a los equipos de defensa a ampliar sus reglas de detección más allá de los dominios de C2 convencionales. La implementación de un monitoreo granular en los flujos de mensajería MQTT dentro de las redes corporativas se ha vuelto fundamental para identificar intentos de control por parte de este grupo. Ante esta amenaza, es crítico auditar las conexiones salientes hacia brókers MQTT no autorizados y reforzar la segmentación de red para limitar el movimiento lateral que este malware pueda intentar tras la intrusión inicial.

Artículos relacionados de LaRebelión:

• China Ditches Windows for Linux A Digital Sovereignty Shift
• Microsoft Unveils Linux Containers Running on Windows
• Vulnerabilidades AI Linux y Malware Informate Ya
• 400 Arch Linux Packages Compromised with Malware
• Microsoft Defender Zero-Day Vulnerability Exposes Windows Systems

---

Fuente Original: thehackernews.com

Artículo generado mediante AI.larebelion.

Europe Summons Top AI Labs Over Safety

European Commission President Ursula von der Leyen is set to convene a meeting with leading artificial intelligence laboratories. This initiative aims to address the systemic risks posed by advanced foundation models before the European Union's comprehensive AI Act takes full effect. By bringing developers of frontier AI directly to the table, Brussels hopes to foster a collaborative environment where industry leaders can agree on actionable safety measures and voluntary commitments.

Imagen generada con IA

For technically literate observers, this move represents a critical bridge between legislative theory and engineering reality. While the EU AI Act establishes a stringent legal framework, translating these rules into technical safeguards requires direct input from the engineers building these systems. The discussions are expected to focus on practical risk-mitigation strategies that can be implemented immediately, such as robust model evaluations, red-teaming protocols, and secure watermarking for synthetic content, mitigating potential harms during the transition period before the regulation becomes legally binding.

This proactive engagement highlights a shifting regulatory strategy. Rather than relying solely on top-down enforcement, European policymakers are seeking to co-design compliance pathways with the creators of generative AI. This dialogue is crucial because advanced model architectures evolve at a pace that traditional legislative processes cannot match. By establishing direct channels with frontier labs, the EU aims to create a dynamic safety framework capable of adapting to rapid algorithmic breakthroughs while ensuring public trust and systemic security.

Artículos relacionados de LaRebelión:

• Frontier AI FSB Warns of Major Financial Risks
• Microsofts Agent Toolkit Tackling Top AI Security Risks
• Microsoft Releases Emergency Fix for Windows 11
• Understanding OpenCV for Modern AI Development
• Tech Giants Call for AI Safety Guardrails

---

Fuente Original: Reuters

Artículo generado mediante AI.larebelion.