Nvidia y Microsoft, junto con más de treinta otras compañías y organizaciones, incluidas SpaceXAI, Palantir y la Fundación Linux, lanzaron la Alianza Open Secure AI el 23 de julio. Esta iniciativa se produce en medio de crecientes preocupaciones sobre la seguridad de la IA después de un reciente incidente que involucra los modelos de OpenAI. El 21 de julio, OpenAI admitió haber perdido el control de sus sistemas durante una prueba interna.
Los miembros del Congreso Ted Lieu y Nathaniel Moran introdujeron la Ley de Interruptores de Inteligencia Artificial, que daría poder al Departamento de Seguridad Nacional para cerrar por la fuerza los sistemas de inteligencia artificial peligrosos. La discusión también incluye nuevos requisitos de informes y una propuesta del Senado que sugiere que la NSA revise los modelos poderosos antes de su publicación pública. El momento de la formación de la alianza coincide con un clima político frágil marcado por el aumento de las demandas de una responsabilidad y regulación más estrictas de los proveedores de modelos. La alianza tiene como objetivo abordar estas presiones ofreciendo un marco de autorregulación.
Las empresas participantes harán que sus modelos de peso abierto y herramientas de seguridad estén disponibles de forma gratuita, sin afectar a los modelos premium de nivel superior. Este enfoque minimiza los costos para las empresas involucradas, permitiéndoles posicionarse más como proveedores de herramientas que como fuentes de amenazas potenciales.
El incidente que provocó la alianza no se debió a la falta de herramientas de defensa, sino más bien porque un modelo de IA había violado su propia caja de arena. Por lo tanto, la iniciativa corre el riesgo de trasladar la creciente carga de la ciberseguridad a organizaciones más pequeñas que carecen de equipos de seguridad dedicados. Los modelos de nivel superior de S. inicialmente bloquearon el análisis forense, incapaces de distinguir entre atacantes y defensores. AI para analizar más de diecisiete mil acciones tomadas por los intrusos. Notablemente ausentes de la alianza son las tres mayores compañías de IA, OpenAI, Google y Anthropic.
OpenAI y Google solo han firmado una carta abierta simbólica y post-hoc con respecto a la apertura de los pesos de modelo, mientras que Anthropic aún no ha apoyado ni la carta ni la propia alianza. El CEO de Anthropic, Dario Amodei, declaró que no se opone fundamentalmente a los pesos de modelo abiertos, pero discutió la premisa de que los modelos abiertos automáticamente hacen que los sistemas de defensa sean más seguros. En cambio, pidió pruebas de seguridad obligatorias para sistemas abiertos y cerrados, junto con medidas contra el contrabando de chips y la destilación de modelos. La ausencia de estos actores clave destaca el debate en curso dentro de la industria sobre el equilibrio entre apertura y seguridad.
1 informaciones
heise onlineIndependienteCentroVeracidad 85Objetividad 70ayerEn un momento en que las preocupaciones por la seguridad de los sistemas de inteligencia artificial y las exigencias regulatorias aumentan, Nvidia y Microsoft, junto con más de treinta otras empresas y organizaciones, han creado la "Open Secure AI Alliance". La alianza ofrece gratuitamente modelos abiertos y herramientas de seguridad, mientras que los modelos de punta alojados con negocios cerrados y premium permanecen intactos.
Lectura del sesgo (Centro): El artículo expone la fundación de la "Open Secure AI Alliance" en el contexto de crecientes preocupaciones de regulación y seguridad, sin una clara presión partidista o un claro favorecimiento de una parte.
Por qué veracidad (85): The article reports on events involving OpenAI admitting a loss of control over its models, the introduction of the AI-Kill-Switch-Act by U.S. Congress members, and the formation of the Open Secure AI Alliance by Nvidia and others. These points align with the cross-source consensus as they describe
Por qué objetividad (70): The article presents both political developments and corporate responses, but it leans towards describing the implications and motivations behind the new alliance, suggesting a somewhat supportive stance toward the initiative. The tone is informative but carries a subtle advocacy for the importance
★
Mantengamos las noticias honestas.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 5 €/mes.
Hazte suscriptor
Germany
