AI Leaders Warn UN of Runaway Technology Risks

Top figures in artificial intelligence are set to brief the United Nations this week, following urgent calls from experts about the potential for AI to develop beyond human comprehension and control. The urgency stems from rapid advancements in AI capabilities, particularly in areas like generative models, which are exhibiting emergent behaviors that surprise even their creators. These developments have sparked concerns that AI systems could become too complex to manage, leading to unintended consequences or even existential risks.

Imagen generada con IA

The discussions at the UN are expected to focus on the need for international cooperation and regulatory frameworks to guide AI development responsibly. While the potential benefits of AI are vast, ranging from medical breakthroughs to climate change solutions, the growing consensus among researchers is that proactive measures are necessary to mitigate the downsides. The fear is not necessarily of malevolent AI in the short term, but rather of systems acting in ways that are unpredictable and difficult to correct, potentially leading to economic instability, misinformation at scale, or even autonomous weapons systems operating outside of human oversight.

Key figures in the AI field, including CEOs of major tech companies and prominent researchers, will be present to share their insights and impress upon policymakers the critical juncture humanity faces. The goal is to foster a global dialogue on AI safety and governance, ensuring that the technology's trajectory aligns with human values and societal well-being. This high-level engagement signifies a recognition that the challenges posed by advanced AI are not merely technical but also geopolitical and ethical, requiring a coordinated international response before the technology outpaces our ability to steer it.

Artículos relacionados de LaRebelión:

• The Rise of Self-Propagating Generative AI Malware
• OpenAIs GPT-6 Astra The Future of AI Unveiled
• Rethinking Cybersecurity Operations for the AI Era
• Telefónica Defines the Future of Autonomous Networks
• The Unprecedented Scale of Modern AI Development

---

Fuente Original: Reuters

Artículo generado mediante AI.larebelion.

21 naciones exigen mayor supervisión en IA

Un bloque internacional compuesto por 21 países y la Comisión Europea ha emitido una declaración conjunta coordinada por el gobierno de los Países Bajos, instando a establecer controles más estrictos sobre los modelos de inteligencia artificial de frontera. Esta iniciativa representa un esfuerzo diplomático significativo para estandarizar la seguridad en el desarrollo de sistemas de IA generativa avanzada antes de que lleguen al mercado público.

El punto central de la propuesta es la implementación obligatoria de pruebas de seguridad exhaustivas y rigurosas antes de cualquier lanzamiento comercial. Para los expertos y profesionales del sector tecnológico, esto implica que las empresas desarrolladoras deberán documentar y validar el comportamiento de sus modelos frente a riesgos críticos, como el sesgo sistémico, la proliferación de desinformación a gran escala o la vulnerabilidad ante ciberataques. La medida busca pasar de un modelo de autorregulación voluntaria a uno de rendición de cuentas ante organismos externos.

La declaración también abre la puerta a la creación de un nuevo ente internacional encargado de supervisar estos modelos de gran escala. La razón de ser de esta propuesta radica en la naturaleza transfronteriza de la inteligencia artificial, donde los despliegues de software pueden afectar simultáneamente a mercados globales sin que las leyes nacionales individuales tengan la capacidad de mitigar los riesgos técnicos de forma coherente. Al centralizar ciertos estándares, los gobiernos esperan evitar una fragmentación regulatoria que dificulte tanto el progreso tecnológico como la seguridad pública.

Este movimiento subraya una creciente preocupación por parte de los reguladores ante la velocidad con la que los modelos de frontera están evolucionando, superando a menudo la capacidad de los marcos legislativos existentes para controlar sus impactos socioeconómicos y técnicos. La participación de naciones como Noruega, junto a otros líderes europeos, sugiere que el enfoque futuro se centrará en la transparencia técnica y la auditoría externa. Para la industria de la IA, esto marca un cambio de paradigma inminente: el desarrollo desenfrenado deberá convivir ahora con una supervisión institucional más rigurosa, priorizando la estabilidad y la ética sobre la mera escalabilidad algorítmica.

Artículos relacionados de LaRebelión:

• Tech Giants Call for AI Safety Guardrails
• Rethinking Cybersecurity Operations for the AI Era
• Googles Gemini Omni The Future of AI for Enterprises
• Trump Bans Anthropic AI from US Government Agencies
• Alibaba Launches China’s Fastest Chip and AI Ambitions

---

Fuente Original: thenextweb.com

Artículo generado mediante AI.larebelion.

AWS obtiene autorización para operar datos confidenciales de la OTAN

Amazon Web Services ha marcado un hito significativo en el sector tecnológico al convertirse en el primer proveedor de servicios en la nube autorizado para gestionar información clasificada como restringida por la OTAN en todos sus países miembros. Este logro estratégico no surgió de una gestión centralizada en las oficinas de la alianza, sino que se gestó mediante una certificación obtenida inicialmente en España, lo que permitió validar su infraestructura bajo los rigurosos estándares de seguridad europeos antes de expandirse a nivel internacional.

La clave de esta aprobación reside en el cumplimiento de la directiva técnica D32 de la OTAN. Esta normativa establece los requisitos de seguridad necesarios para que los servicios de computación en la nube puedan procesar datos sensibles sin comprometer la integridad ni la confidencialidad de la información crítica de la alianza. Al demostrar que sus controles de seguridad y protocolos operativos se alinean estrictamente con estas directrices, AWS ha logrado superar las barreras burocráticas y técnicas que anteriormente limitaban el uso de proveedores comerciales en entornos militares y gubernamentales de alto nivel.

Para los profesionales del ámbito tecnológico, este avance es fundamental porque valida la madurez de los servicios de nube pública para entornos de seguridad nacional. La capacidad de operar bajo el estándar de información restringida de la OTAN permite a las agencias de defensa y organismos intergubernamentales migrar cargas de trabajo que antes debían mantenerse en centros de datos locales o infraestructuras privadas costosas y menos flexibles. Esto facilita una mayor interoperabilidad entre las naciones aliadas, permitiendo que compartan datos de manera fluida y segura dentro de un entorno unificado.

La importancia de esta noticia radica en el cambio de paradigma que supone la adopción de la nube a hiperescala en el sector defensa. Más allá de la infraestructura física, lo que realmente se pone a prueba es la capacidad de un proveedor para garantizar la soberanía del dato y la resiliencia operativa frente a ciberamenazas avanzadas. Con este respaldo, AWS se posiciona no solo como una herramienta de almacenamiento, sino como el backbone digital fundamental para las futuras operaciones tecnológicas de la OTAN, estableciendo un precedente que seguramente obligará a otros proveedores de nube a acelerar sus procesos de certificación para mantenerse competitivos en el mercado de la defensa y la seguridad internacional.

Artículos relacionados de LaRebelión:

• Rethinking Cybersecurity Operations for the AI Era
• Amazon Buys DuckDB Team for AWS Data Analytics
• AWS Pledges $500M to Cloud and AI Education
• AWS Bedrock Leverages AI for Advanced Cyber Defense
• Googles Gemini Omni The Future of AI for Enterprises

---

Fuente Original: thenextweb.com

Artículo generado mediante AI.larebelion.

Microsoft desmantela plataforma de phishing EvilTokens

Microsoft ha logrado desarticular con éxito la infraestructura de EvilTokens, un servicio de phishing basado en códigos de dispositivo que fue responsable de la vulneración de aproximadamente 12.000 cuentas de correo electrónico. Esta operación fue posible gracias a una orden judicial del Tribunal de Distrito de los Estados Unidos para el Distrito Este de Virginia y contó con una colaboración estratégica entre entidades de ciberseguridad, incluyendo Health-ISAC, Cloudflare, Coinbase, OpenAI, Railway y SpyCloud. La acción representa un golpe significativo contra los servicios de cibercrimen organizados que facilitan el acceso no autorizado a entornos corporativos.

Lo que diferencia a EvilTokens de otras campañas convencionales es su integración profunda de inteligencia artificial en cada fase de la cadena de ataque. Los agresores utilizaron modelos de IA para automatizar y optimizar desde la generación de contenidos engañosos hasta la ejecución técnica del robo de tokens de sesión. Este enfoque permitió a los atacantes superar las barreras de autenticación multifactor, aprovechando el flujo de autorización de códigos de dispositivo, un mecanismo diseñado originalmente para facilitar la conexión en dispositivos sin teclado o con capacidades limitadas. Al manipular a los usuarios para que introdujeran códigos maliciosos en sitios web fraudulentos, los atacantes lograban secuestrar sesiones activas sin necesidad de conocer las contraseñas de las víctimas.

Para los profesionales de la tecnología y expertos en seguridad, este desmantelamiento subraya una tendencia creciente hacia la profesionalización del delito cibernético mediante el modelo de phishing-as-a-service. La capacidad de los actores maliciosos para integrar herramientas de IA en sus operaciones a gran escala exige que las organizaciones refuercen sus controles de acceso y revisen sus políticas de seguridad en torno a los flujos de autenticación de dispositivos. La colaboración multisectorial demostrada en este caso es fundamental para mitigar la infraestructura de los atacantes, pero también resalta la necesidad de implementar estrategias de defensa proactivas que puedan identificar patrones de comportamiento automatizados. El uso de la IA no solo potencia la eficiencia de los ataques, sino que también dificulta la detección tradicional mediante el filtrado de contenidos básicos, obligando a los equipos de seguridad a adoptar soluciones de monitoreo y análisis de señales mucho más avanzadas para proteger los activos digitales.

Artículos relacionados de LaRebelión:

• The Hidden Cost of Censorship: How DeepSeek-R1 Compromises Code Security
• Microsoft corrige una vulnerabilidad crítica en Azure
• AI Speed Slow Down vs Full Throttle
• Microsoft Releases Emergency Fix for Windows 11
• Google impulsa la IA en Finlandia con 13.000 millones

---

Fuente Original: thehackernews.com

Artículo generado mediante AI.larebelion.

Alibaba Launches China’s Fastest Chip and AI Ambitions

Alibaba’s cloud arm, Alibaba Cloud, unveiled a new AI‑accelerator chip that the company brands as the most powerful silicon ever produced in China. Built on a cutting‑edge 5 nm process, the chip delivers more than 30 teraflops of AI compute while staying under 150 watts, a combination that outpaces existing domestic offerings and rivals leading foreign designs. Alibaba says the architecture integrates a massive on‑chip memory buffer and a custom interconnect, allowing it to handle the massive tensor operations required by today’s generative‑AI models without bottlenecking data movement. The company will ship the processor to its own data centers first, then make it available to enterprise customers through its Elastic Compute Service, positioning the chip as the backbone for large‑scale AI inference and training workloads.

Imagen generada con IA

Alongside the hardware announcement, Alibaba detailed an aggressive roadmap for its next‑generation large language model (LLM). The model, slated to be named “Tongyi‑Qianwen 2,” will exceed 100 billion parameters and be trained on a multilingual corpus that includes Chinese, English and several regional languages. Alibaba intends to open the model through its cloud platform, offering developers API access that competes directly with OpenAI’s GPT‑4 and Baidu’s Ernie series. By coupling the new chip with the upcoming LLM, Alibaba aims to reduce inference latency and cost, thereby making high‑quality generative AI services more affordable for Chinese businesses.

The moves are part of a broader push for technological self‑sufficiency in the face of export controls that have limited Chinese access to advanced semiconductors from the United States and its allies. By designing and manufacturing a home‑grown AI accelerator, Alibaba not only strengthens its own cloud ecosystem but also provides a template for other Chinese firms seeking to bypass foreign supply chains. The announcements signal that China’s AI hardware race is intensifying, and Alibaba’s dual focus on silicon and large‑scale models could reshape the competitive landscape for cloud‑based AI services both domestically and globally.

Artículos relacionados de LaRebelión:

• Alibaba Unveils Massive AI Model, New Cloud Chip
• US and China Align on AI Safety
• US and China to Discuss AI, Trade, and Minerals
• Huawei Accelerates AI Chip Roadmap and Performance
• Microsoft Unveils RTX Spark Desktop and Linux Tools

---

Fuente Original: NBC News

Artículo generado mediante AI.larebelion.