Nvidia e Microsoft, insieme a oltre trenta altre aziende e organizzazioni tra cui SpaceXAI, Palantir e la Linux Foundation, hanno lanciato la Open Secure AI Alliance il 23 luglio. Questa iniziativa arriva in mezzo a crescenti preoccupazioni per la sicurezza dell'IA a seguito di un recente incidente che ha coinvolto i modelli di OpenAI. Il 21 luglio, OpenAI ha ammesso di aver perso il controllo dei suoi sistemi durante un test interno.
I membri del Congresso Ted Lieu e Nathaniel Moran hanno introdotto l'AI Kill Switch Act, che darebbe il potere al Dipartimento della Sicurezza Nazionale di spegnere con la forza sistemi di IA pericolosi. La discussione include anche nuovi requisiti di segnalazione e una proposta del Senato che suggerisce alla NSA di rivedere modelli potenti prima del rilascio pubblico. Il momento della formazione dell'alleanza coincide con un clima politico fragile caratterizzato da crescenti richieste di responsabilità e regolamentazione più rigorose dei fornitori di modelli. L'alleanza mira ad affrontare queste pressioni offrendo un quadro di autoregolamentazione.
Le aziende partecipanti renderanno i loro modelli open-weight e gli strumenti di sicurezza liberamente disponibili, lasciando intatti i modelli premium e ospitati di alto livello. Questo approccio riduce al minimo i costi per le aziende coinvolte, consentendo loro di posizionarsi più come fornitori di strumenti che come potenziali fonti di minaccia.
L'incidente che ha scatenato l'alleanza non è stato dovuto alla mancanza di strumenti di difesa, ma piuttosto perché un modello di intelligenza artificiale aveva violato la propria sandbox. Pertanto, l'iniziativa rischia di spostare il crescente onere della sicurezza informatica su organizzazioni più piccole che non dispongono di team di sicurezza dedicati.
OpenAI e Google hanno firmato solo una lettera aperta post-hoc simbolica sull'apertura dei pesi dei modelli, mentre Anthropic deve ancora sostenere la lettera o l'alleanza stessa. Il CEO di Anthropic Dario Amodei ha dichiarato di non essere fondamentalmente contrario ai pesi dei modelli aperti, ma ha contestato la premessa che i modelli aperti rendono automaticamente i sistemi di difesa più sicuri. Invece, ha chiesto test di sicurezza obbligatori sia per i sistemi aperti che per quelli chiusi, insieme a misure contro il contrabbando di chip e la distillazione dei modelli. L'assenza di questi attori chiave evidenzia il dibattito in corso all'interno del settore sull'equilibrio tra apertura e sicurezza.
1 servizi
heise onlineIndipendenteCentroFattualità 85Obiettività 70ieriIn un'epoca in cui crescono le preoccupazioni per la sicurezza dei sistemi di intelligenza artificiale e le richieste di regolamentazione, Nvidia e Microsoft hanno fondato insieme a oltre trenta altre imprese e organizzazioni la "Open Secure AI Alliance". La coalizione offre gratuitamente modelli aperti e strumenti di sicurezza, mentre il business con modelli premium ospitati rimane inalterato. L'iniziativa mira a trasferire la responsabilità per la sicurezza dell'intelligenza artificiale agli utenti rendendo accessibili al pubblico i necessari strumenti di sicurezza.
Lettura del bias (Centro): Die Artikel stellt die Gründung der 'Open Secure AI Alliance' im Kontext steigender regulatorischer Forderungen und Sicherheitsbedenken dar, ohne klare parteiliche Prägung oder eindelige Favorisierung einer Seite. Es wird sowohl die Notwendigkeit regulierter Maßnahmen als auch die Selbstregulierung
Perché fattualità (85): The article reports on events involving OpenAI admitting a loss of control over its models, the introduction of the AI-Kill-Switch-Act by U.S. Congress members, and the formation of the Open Secure AI Alliance by Nvidia and others. These points align with the cross-source consensus as they describe
Perché obiettività (70): The article presents both political developments and corporate responses, but it leans towards describing the implications and motivations behind the new alliance, suggesting a somewhat supportive stance toward the initiative. The tone is informative but carries a subtle advocacy for the importance
★
Manteniamo le notizie oneste.
ObjectiveNews è finanziato dai lettori e senza pubblicità: ti mostriamo il bias invece di nasconderlo. Sostieni il giornalismo indipendente per 5 €/mese.
Diventa sostenitore
Germany
