California está tomando medidas decisivas para supervisar el desarrollo de la inteligencia artificial (IA) avanzada, estableciendo un marco legal para la verificación independiente de modelos de IA de vanguardia. La Legislatura estatal ha aprobado el proyecto de ley SB 813, que exige la certificación de organizaciones independientes encargadas de evaluar estos modelos para enero de 2028. Este movimiento posiciona a California como un actor clave en la gobernanza de la IA, alineándose con enfoques regulatorios globales y abordando las crecientes preocupaciones sobre la seguridad y el impacto de las IA más potentes.
La importancia de estas organizaciones de verificación se pone de manifiesto en incidentes recientes. Un ejemplo notable es la investigación realizada por METR sobre un incidente que involucró a OpenAI y Hugging Face. Este análisis, centrado en un modelo de la misma familia que supuestamente participó en el incidente, tuvo un costo considerable. Se estima que se consumieron aproximadamente 400.000 dólares en créditos de API, los cuales fueron proporcionados de forma gratuita por OpenAI. Este elevado costo subraya la complejidad y los recursos necesarios para realizar auditorías rigurosas y efectivas de los sistemas de IA avanzados.
La iniciativa californiana busca garantizar que los modelos de IA más capaces, aquellos que presentan los mayores riesgos potenciales, sean sometidos a un escrutinio riguroso antes de su despliegue generalizado. La ley SB 813 no solo establece la necesidad de estas entidades de verificación, sino que también sienta las bases para un proceso de certificación que asegure su competencia y objetividad. Esto es crucial dado el rápido avance de la IA y la potencial disrupción que podría generar en diversos sectores de la sociedad. La experiencia de METR sirve como una advertencia y una demostración práctica de los desafíos y los costos asociados con la auditoría de estas tecnologías de vanguardia, lo que refuerza la necesidad de un marco regulatorio bien estructurado y financieramente sostenible.
Artículos relacionados de LaRebelión:
- Securing Enterprise AI with Data and Boundaries
- Kyndryl and Google Cloud Deploy Agentic AI
- Sony and Warner Sue Anthropic Over Copyright
- AWS Pledges $500M to Cloud and AI Education
- Developer Bridges macOS and Obscure Printer Gap
Fuente Original: thenextweb.com
Artículo generado mediante AI.larebelion.
No hay comentarios:
Publicar un comentario