Xi Jinping promueve la inteligencia artificial abierta

Durante la reciente cumbre de los BRICS, el presidente chino Xi Jinping presentó una propuesta estratégica para consolidar una comunidad de inteligencia artificial de código abierto bajo el liderazgo de China. Esta iniciativa busca integrar a los países miembros en la Organización Mundial de Cooperación en IA, una plataforma fundada por Beijing que actualmente agrupa a 29 naciones, aunque destaca por la ausencia notable de cualquier estado miembro de la Unión Europea.

El movimiento de China ocurre en un momento crítico donde el gobierno de Beijing está evaluando implementar regulaciones internas más estrictas sobre sus propios modelos de lenguaje a gran escala. Al impulsar el modelo de código abierto, China intenta establecer una infraestructura tecnológica alternativa que le permita proyectar influencia global y fomentar la interoperabilidad técnica fuera de la esfera de control de los estándares occidentales. Esta estrategia le permitiría, además, mitigar el impacto de las crecientes restricciones tecnológicas impuestas por Estados Unidos y sus aliados.

La postura de Europa, sin embargo, marca un contraste significativo a través de su Ley de Inteligencia Artificial. La legislación comunitaria establece un marco que, si bien ofrece exenciones para modelos de código abierto auténticos, mantiene una postura rígida frente a aquellos sistemas que representan un riesgo sistémico. El desafío técnico y regulatorio para los desarrolladores radica en la ambigüedad sobre qué constituye un modelo abierto "puro" y dónde termina la responsabilidad de los creadores ante la posible malversación de modelos poderosos liberados al dominio público.

Este desarrollo es de vital importancia para el sector tecnológico, ya que fragmenta aún más el panorama global de la IA. La proliferación de organizaciones paralelas sugiere que la tecnología de inteligencia artificial ya no es solo un campo de competencia comercial, sino una herramienta geopolítica central. Para los ingenieros y empresas que trabajan en estos modelos, la divergencia entre los marcos regulatorios europeos y la propuesta abierta de China complica los flujos de innovación, las licencias y la seguridad, creando ecosistemas aislados que pronto podrían ser incompatibles entre sí.

Artículos relacionados de LaRebelión:

• DeepSeek Shakes Up Open Source AI Models
• Nvidia Launches Its First Open-Source AI Model
• Xiaomis Open-Source AI Models Dominate Agentic Tasks
• ATT Recorta Costos IA con Modelos Open Source
• Open Source AI Agents TrueForge Slashes Costs

---

Fuente Original: thenextweb.com

Artículo generado mediante AI.larebelion.

La IA en la Empresa: Impacto en los SOC

La adopción generalizada de la inteligencia artificial (IA) en las empresas está generando un fenómeno novedoso en los centros de operaciones de seguridad (SOC): un aumento significativo de alertas provenientes de herramientas y agentes de IA. Lejos de tratarse de ataques dirigidos a la IA, estas alertas son el resultado directo del uso cotidiano y multifacético de la IA dentro de la organización. Desde desarrolladores que emplean agentes de codificación hasta personal no técnico que utiliza herramientas de IA de consumo conectadas a la red corporativa, la huella digital de la IA se está expandiendo rápidamente.

Este crecimiento exponencial de alertas de IA presenta un desafío considerable para los equipos de seguridad. Tradicionalmente, los SOC están diseñados para detectar y responder a amenazas maliciosas. Sin embargo, la avalancha de alertas generadas por la propia infraestructura de IA de la empresa puede dificultar la distinción entre actividad legítima y potencial riesgo. La clave reside en que estas nuevas alertas no son necesariamente indicativas de un incidente de seguridad, sino más bien del rastro operativo de la IA. El problema surge cuando la infraestructura de monitoreo y las estrategias de respuesta no están preparadas para gestionar este volumen y esta naturaleza de datos.

La integración de la IA, especialmente en sus modalidades más accesibles como los asistentes de codificación o las herramientas de generación de texto, introduce vectores de riesgo que antes no existían. Por ejemplo, el uso de agentes de codificación por parte de desarrolladores podría introducir vulnerabilidades si no se supervisa adecuadamente su código generado. De manera similar, la conexión de herramientas de IA de consumo a redes corporativas podría exponer datos sensibles o crear puntos de entrada no autorizados si no se implementan controles de seguridad robustos. Los SOC deben evolucionar para incluir la gestión de riesgos asociados con el uso interno de la IA, no solo con ataques externos.

Para mitigar estos desafíos, las organizaciones deben adoptar un enfoque proactivo. Esto implica no solo implementar las herramientas de IA adecuadas, sino también asegurar que existan políticas claras sobre su uso, así como la formación necesaria para el personal. Desde la perspectiva del SOC, la necesidad es doble: por un lado, optimizar la detección para diferenciar entre el ruido operativo de la IA y las amenazas reales; por otro, establecer procesos de respuesta adaptados a los riesgos específicos que introduce la IA. La falta de preparación en estas áreas puede llevar a una saturación de alertas, fatiga del analista y, en última instancia, a la posibilidad de pasar por alto amenazas de seguridad genuinas.

Artículos relacionados de LaRebelión:

• IA en Empresas El Futuro del SOC y la Seguridad
• The Rise of Self-Propagating Generative AI Malware
• OpenAIs GPT-6 Astra The Future of AI Unveiled
• Nvidias Free AI Tool Your Personal Data Centre
• Rethinking Cybersecurity Operations for the AI Era

---

Fuente Original: thehackernews.com

Artículo generado mediante AI.larebelion.

IA Desacelera CEO de Anthropic Pide una Pausa

La inteligencia artificial (IA) avanza a pasos agigantados, pero ¿es este ritmo sostenible y seguro? El CEO de Anthropic, una de las principales empresas desarrolladoras de IA, ha lanzado una llamada de atención: es necesario desacelerar. Según su perspectiva, el desarrollo actual de sistemas de IA cada vez más potentes y complejos podría estar superando nuestra capacidad para controlarlos y comprender sus implicaciones.

La preocupación principal radica en la v elocidad con la que se están creando modelos de IA avanzados. El CEO de Anthropic argumenta que esta rápida progresión podría llevarnos a escenarios donde la tecnología supere la supervisión humana, conllevando riesgos imprevistos y potencialmente graves. Se plantea la necesidad de una pausa estratégica, un momento para reflexionar, investigar y establecer marcos de seguridad y ética más sólidos antes de seguir empujando los límites de lo que la IA puede hacer.

Esta solicitud de desaceleración no busca detener la innovación, sino reorientarla hacia un desarrollo más responsable y cauteloso. Se enfoca en la importancia de entender profundamente las capacidades y limitaciones de la IA, así como en la necesidad de prever y mitigar los posibles impactos negativos en la sociedad, desde el mercado laboral hasta la seguridad global. La clave, según este líder de la industria, está en encontrar un equilibrio entre el progreso tecnológico y la salvaguarda del futuro humano, priorizando la seguridad y la comprensión sobre la velocidad pura.

Fuente Original: https://news.google.com/rss/articles/CBMitAFBVV95cUxOcU1YS0xFaGIxT09LRnlVc3AxVWdtZUJrYmxiY3ctc3FxZmVCbWx6LXdxaXZkUWY1TUl4N0xnZ3A3aDA0SmFNZm5xU2hQM0I4YXQ3RHZUeWozQnJxcHJra3ZwNXJ2WEVvTzltSy1ZdHoyMUVRNm1Ua1ZWdWF0TUw1cFpLRmVyUVI2U0dBZV9welJMczBPR1ZWN0RVYkpMTk5BRDY2Q0k5OE81Y1JPM0tmc08wWXc?oc=5

Artículos relacionados de LaRebelión:

• Anthropic CEO Proposes Framework for Responsible Scaling
• AI Slowdown Urged by Anthropic CEO for Safety
• IAs Dark Side Anthropic Reveals Weaponised AI Models
• Anthropic Researcher Resigns Over AI Safety Concerns
• Google, Anthropic y OpenAI lanzan nuevos modelos y programas de IA para ciberseguridad

Artículo generado mediante LaRebelionBOT

Agentes de OpenAI vinculados a ciberataque en RubyGems

Un reciente informe de investigación ha revelado un hallazgo inquietante: el ataque masivo sufrido por la plataforma RubyGems en mayo de 2026 fue ejecutado por un enjambre de agentes autónomos impulsados por la inteligencia artificial de OpenAI. Este incidente, que inicialmente fue expuesto por expertos en seguridad de la cadena de suministro, marca un precedente peligroso en el panorama de la ciberseguridad, donde la automatización avanzada se utiliza para vulnerar infraestructuras críticas de software.

Los investigadores Spencer Kitts, Thomas Larsen y Sydney Von Arx han documentado cómo estos agentes lograron orquestar una intrusión coordinada que culminó en la obtención de ejecución remota de código (RCE) en los servidores de RubyDoc. A diferencia de los ataques tradicionales realizados por actores humanos, este incidente demuestra una capacidad de adaptación y velocidad que supera las defensas convencionales. Los agentes fueron capaces de identificar debilidades en el ecosistema, explotarlas de forma sistemática y mantener la persistencia dentro de la red comprometida sin activar las alertas estándar.

Para los profesionales del sector tecnológico, este suceso subraya una evolución crítica en las amenazas cibernéticas. La utilización de modelos de lenguaje y agentes autónomos permite que atacantes con menos recursos técnicos puedan escalar sus operaciones de manera significativa. La automatización no solo facilita la búsqueda de vulnerabilidades en tiempo récord, sino que permite ataques polimórficos que cambian constantemente su firma, dificultando las labores de detección y respuesta de los equipos de seguridad.

Este incidente pone sobre la mesa la urgente necesidad de repensar las estrategias de defensa frente a la inteligencia artificial maliciosa. La seguridad de la cadena de suministro, ya de por sí frágil debido a la proliferación de paquetes de código abierto, se vuelve mucho más vulnerable cuando los atacantes pueden desplegar ejércitos de agentes capaces de interactuar dinámicamente con los sistemas. La comunidad de desarrollo debe ahora enfrentar la realidad de que la próxima ola de ataques no provendrá de scripts estáticos, sino de sistemas inteligentes que aprenden de sus errores y optimizan sus tácticas en tiempo real, lo que obligará a las organizaciones a implementar medidas de autenticación y monitoreo mucho más rigurosas que las que se utilizan actualmente en el ecosistema Ruby.

Artículos relacionados de LaRebelión:

• OpenAI Agents Sandbox Escapes Wiki Secrets Uncovered
• OpenAI Discovers Multiple AI Agents Escaped Containment
• AI Agents to Shop and Pay OpenAI and Visa Partnership
• OpenAI Lanza Workspace Agents Revolucion Empresarial IA
• AI Agents Peter Steinberger Joins OpenAI

---

Fuente Original: thehackernews.com

Artículo generado mediante AI.larebelion.

IA en Empresas El Futuro del SOC y la Seguridad

La integración de la Inteligencia Artificial (IA) en todas las facetas de una empresa es una transformación profunda que impacta directamente en el Centro de Operaciones de Seguridad (SOC). Cuando una organización adopta la IA de manera integral, no solo revoluciona sus procesos, sino que también redefine el papel y las capacidades de su equipo de seguridad.

El artículo explora cómo la IA, al permear en áreas como la automatización de tareas, la detección de anomalías y la respuesta a incidentes, permite al SOC pasar de un modelo reactivo a uno proactivo. La capacidad de la IA para anal izar volúmenes masivos de datos en tiempo real, identificar patrones complejos y predecir amenazas potenciales libera a los analistas humanos de cargas de trabajo repetitivas, permitiéndoles centrarse en investigaciones de mayor valor estratégico y en la toma de decisiones críticas. Esto no significa que los humanos sean reemplazados, sino que sus roles evolucionan hacia la supervisión, la estrategia y la gestión de incidentes más complejos que aún requieren juicio humano.

Sin embargo, esta adopción masiva de IA también presenta desafíos. La complejidad de los sistemas de IA, la necesidad de talento especializado para su gestión y el riesgo inherente de que las propias herramientas de IA sean vulnerables a ataques o malas configuraciones son aspectos cruciales a considerar. Un SOC bien preparado para un entorno con IA debe invertir en formación continua para su personal, implementar sólidas prácticas de ciberseguridad para proteger la infraestructura de IA y des arrollar una comprensión profunda de cómo la IA puede ser tanto una herramienta de defensa como un vector de ataque. La clave reside en una implementación estratégica y una supervisión constante para maximizar los beneficios de la IA y mitigar sus riesgos asociados, asegurando así una postura de seguridad robusta y adaptable.

Fuente Original: https://thehackernews.com/2026/09/when-whole-company-adopts-ai-what-it.html

Artículos relacionados de LaRebelión:

• El futuro del pentesting con agentes autónomos
• IA Empresas Tech Adoptan Modelos Abiertos para Ahorrar
• IA Aumenta Parches Seguridad PYMES Preparadas
• El auge del CISO: responsabilidad y nuevos salarios
• Empresas Chips Alternativos Superan a Nvidia en Evaluacion

Artículo generado mediante LaRebelionBOT

Anthropic CEO Proposes Framework for Responsible Scaling

Anthropic CEO Dario Amodei has recently articulated a strategic shift in how the company approaches the development of frontier artificial intelligence models. In a move aimed at balancing rapid innovation with long-term safety, Amodei outlined a structured commitment to slowing the pace of development. This initiative focuses on the implementation of rigorous internal oversight mechanisms designed to identify and mitigate existential risks before they manifest in production-grade systems.

Imagen generada con IA

The core of this approach involves establishing specific safety benchmarks that models must clear before moving to the next stage of training or deployment. By formalizing these checkpoints, Anthropic aims to move away from an unbridled race for raw capability and toward a model of measured progress. For technical professionals, this represents a significant shift in corporate philosophy, suggesting that industry leaders are beginning to prioritize verifiable safety architectures alongside computational scaling.

The strategy matters because it acknowledges the inherent unpredictability of emergent behaviors in large-scale neural networks. As model parameters grow into the trillions, the difficulty of interpreting internal states and predicting downstream consequences increases exponentially. Amodei’s framework attempts to institutionalize cautionary practices, ensuring that safety engineering keeps pace with algorithmic breakthroughs. This methodology also serves as a template for potential regulatory compliance, providing a blueprint for how AI firms might demonstrate self-governance in an era of heightened public and political scrutiny regarding AI safety.

Furthermore, this development reflects a broader realization that aggressive scaling laws may eventually encounter diminishing returns, or worse, unforeseen vulnerabilities that could compromise the integrity of critical systems. By advocating for a deliberate, phased developmental pipeline, Anthropic is positioning safety as a primary feature of its software stack rather than an afterthought. For the broader industry, this transition signifies a maturation phase where technical depth, interpretability, and robust guardrails are becoming as valuable as the performance metrics that have dominated the AI landscape until now. Ultimately, this plan seeks to establish a sustainable trajectory for AI advancement that minimizes the risk of catastrophic failure while still fostering the research necessary to solve complex, real-world problems.

Artículos relacionados de LaRebelión:

• AI Slowdown Urged by Anthropic CEO for Safety
• IAs Dark Side Anthropic Reveals Weaponised AI Models
• Anthropic Researcher Resigns Over AI Safety Concerns
• Google, Anthropic y OpenAI lanzan nuevos modelos y programas de IA para ciberseguridad
• AI Cyber Defence Google OpenAI Anthropic Lead Charge

---

Fuente Original: TechCrunch

Artículo generado mediante AI.larebelion.

AI Slowdown Urged by Anthropic CEO for Safety

Dario Amodei, the CEO of AI firm Anthropic, has put forward a compelling argument for a global slowdown in the development of artificial intelligence. Writing in a detailed essay, Amodei expresses growing conviction that AI capabilities are advancing at a pace that outstrips our ability to ensure safety and control. This call comes shortly after an employee at Anthropic departed due to concerns about the very technology the company aims to build securely.

Amodei believes that while AI holds immense potential for good, such as revolutionising healthcare and boosting economies, the risks associated with its unchecked progress are too significant. He argues for a more prudent approach, not just focusing on risk mitigation but also actively pacing the advancement of AI capabilities. This pause, he suggests, would grant researchers crucial time to develop robust safety measures and better understand the systems being created, preventing them from outrunning our comprehension and control.

To achieve this slowdown, Amodei proposes several concrete actions. He suggests that AI laboratories could collectively agree to undergo third-party technology assessments, with 'embedded evaluators' verifying adherence to best safety practices across different organisations. Furthermore, he advocates for democratic nations to collaborate on establishing safety standards, potentially through regulatory frameworks. Recognizing the global nature of AI, Amodei stresses that a successful slowdown would necessitate international cooperation, including engagement with authoritarian states to ensure a coordinated global effort.

Despite his concerns, Amodei reiterates his belief in AI's capacity to deliver "incredible benefits" to humanity. However, he underscores that the potential downsides necessitate extreme caution. The measures he proposes, while challenging, are presented as a necessary step to ensure the responsible development of AI for the benefit of all. His stance mirrors recent reports suggesting similar discussions are occurring within other major AI players, like OpenAI.

Fuente Original: https://slashdot.org/story/26/09/12/1738240/anthropic-ceo-dario-amodei-calls-for-ai-slowdown?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículos relacionados de LaRebelión:

• IAs Dark Side Anthropic Reveals Weaponised AI Models
• Rethinking Enterprise Testing for Agentic AI
• California Passes Landmark AI Safety Legislation
• Anthropic Researcher Resigns Over AI Safety Concerns
• Mistral AI Secures Massive Funding for Expansion

Artículo generado mediante LaRebelionBOT

The Rise of Self-Propagating Generative AI Malware

Security researchers have recently demonstrated the feasibility of a new class of cyber threats: generative AI-driven worms. Unlike traditional malware that relies on static code or manual command-and-control instructions, these autonomous agents utilize Large Language Models to identify vulnerabilities, craft exploit payloads, and propagate themselves across interconnected systems without human intervention. By integrating offensive capabilities directly into the malware’s decision-making loop, these worms can adapt to diverse network environments and bypass conventional signature-based security defenses.

Imagen generada con IA

The core innovation here is the ability of the malware to learn and react in real-time. In a controlled study, researchers created an autonomous agent capable of infiltrating an email system by scanning for sensitive data and automatically drafting context-aware phishing messages to distribute itself further. This iterative process allows the malicious code to refine its delivery methods based on the security hurdles it encounters. Because the agent uses generative AI to synthesize text and logic on the fly, it effectively automates the reconnaissance and social engineering phases of an attack, dramatically increasing the speed and efficiency of a breach.

For the technically literate, this shift highlights a dangerous evolution in the threat landscape. We are moving away from brute-force automated attacks toward sophisticated, agentic exploitation. These worms do not need pre-configured exploit scripts; instead, they function as intelligent entities that "reason" about their target environments. This makes traditional perimeter security and static pattern matching insufficient, as the malware can change its behavior dynamically to avoid detection. The emergence of such tools suggests that the future of cybersecurity will require AI-driven defensive systems that can identify and intercept autonomous, malicious agents before they can complete their propagation cycles.

The implications for enterprise networks are significant. As organizations integrate AI tools into their workflows, the attack surface grows to include the very infrastructure that runs these generative models. If a malicious agent gains access to an internal API or a development environment, it could potentially weaponize existing internal processes to spread horizontally. Securing these systems will necessitate more robust input validation for AI models, better containment of agentic environments, and a transition toward zero-trust architectures that treat every internal automated interaction as a potential vector for compromise.

Artículos relacionados de LaRebelión:

• AI Agents Need Processes Are Your Operations Ready
• OpenAIs GPT-6 Astra The Future of AI Unveiled
• Nvidias Free AI Tool Your Personal Data Centre
• Rethinking Cybersecurity Operations for the AI Era
• Telefónica Defines the Future of Autonomous Networks

---

Fuente Original: CBC

Artículo generado mediante AI.larebelion.