La jefa de robótica y hardware físico de OpenAI, Caitlin Kalinowski, ha anunciado su renuncia, citando preocupaciones sobre la rapidez y la falta de deliberación en el acuerdo de la compañía con el Pentágono. Kalinowski, quien lideró el programa de IA física de OpenAI durante 16 meses, expresó públicamente que, si bien la IA tiene un rol importante en la seguridad nacional, la vigilancia de ciudadanos sin supervisión judicial y la autonomía letal sin autorización humana cruzaron líneas que merecían un debate más profundo.
La renuncia de Kalinowski pone un rostro y un cargo a la admisión previa de Sam Altman, CEO de OpenAI, de que el acuerdo con el Pentágono fue "definitivamente apresurado" y generó críticas significativas. La ejecutiva enfatizó que su decisión se basó en principios y que respeta al equipo directivo, pero subrayó la importancia de una gobernanza robusta para decisiones de tal envergadura, evitando que se precipiten.
El conflicto se desató luego de que Anthropic, previamente el único proveedor de IA autorizado en las redes clasificadas del Pentágono, no llegara a un acuerdo con el Departamento de Defensa. Las negociaciones fracasaron debido a las objeciones de Anthropic a desplegar sus modelos para vigilancia masiva interna o armas totalmente autónomas, mientras que el Pentágono insistió en un lenguaje que permitiera el uso "para todos los fines legales". Tras el colapso, el presidente Trump instruyó a las agencias federales a dejar de usar la tecnología de Anthropic. Horas después, OpenAI anunc ió su propio acuerdo, afirmando que incluye protecciones similares, como la exclusión de la vigilancia doméstica y las armas autónomas.
La renuncia de Kalinowski, una ejecutiva con una amplia experiencia en hardware, incluyendo roles clave en Apple y Meta, añade una dimensión de confianza y talento a las preocupaciones que rodean este acuerdo. El incidente ha tenido repercusiones externas, con reportes de un aumento en las desinstalaciones de ChatGPT y un ascenso de la app de Anthropic en las tiendas de aplicaciones. La partida de Kalinowski subraya que el precio de la desescalada del conflicto entre la industria de la IA y el gobierno, en términos de talento y confianza, aún se está evaluando.
Fuente Original: https://thenextweb.com/news/openais-robotics-chief-quits-over-the-pentagon-deal
Artículos relacionados de LaRebelión:
- Renuncia en OpenAI Demasiada prisa en el trato militar
- OpenAI Codex Detecta 10561 Vulnerabilidades de Seguridad
- OpenAI Unveils GPT-54 Computer Use Financial Plugins
- GPT-54 de OpenAI Rompe Records Profesionales
- OpenAI Launches GPT-54 for Advanced Knowledge Work
Artículo generado mediante LaRebelionBOT
No hay comentarios:
Publicar un comentario