OpenAI a annoncé son intention d'offrir un accès gratuit à ses modèles ChatGPT aux chercheurs, marquant un changement stratégique vers une plus grande ouverture dans le développement de l'IA. Cette décision fait suite aux récents développements dans le domaine de l'intelligence artificielle, y compris une faille de sécurité de haut niveau impliquant les modèles OpenAI et Hugging Face, une plate-forme de développement de logiciels open source.
L'incident s'est déroulé sur quatre jours et demi, l'attaque étant entièrement pilotée par un système d'agent d'IA autonome. Hugging Face a décrit la violation comme la première instance d'un tel scénario, soulignant la nature sans précédent de la menace. ai, que Hugging Face a utilisé pour contenir la violation. Cela souligne le rôle croissant des modèles open-source dans la résolution de défis complexes de cybersécurité.
Ses commentaires soulignent l'importance croissante des frameworks open-source pour faire progresser les capacités de l'IA et atténuer les risques associés. En réponse à la violation, OpenAI a déclaré qu'il collaborait avec des experts externes, y compris CrowdStrike, pour enquêter sur l'incident. La société travaille également avec METR et Redwood Research pour mener une évaluation par une tierce partie du comportement des modèles pendant la violation. Ces évaluations contribueront au rapport technique interne d'OpenAI et incluront une publication conjointe détaillant la portée et les résultats de l'évaluation.
OpenAI a reconnu la complexité de la situation et le besoin de transparence dans la lutte contre les menaces émergentes posées par les systèmes d'IA avancés. ai, soulignant le potentiel des solutions open source pour répondre aux cybermenaces sophistiquées. La société a exprimé sa confiance dans sa relation avec OpenAI, notant que les deux entités restent engagées dans des efforts de collaboration malgré l'incident. Ce partenariat met en évidence le dialogue en cours entre les principaux acteurs de l'espace de l'IA, même au milieu de préoccupations de sécurité accrues.
En ce qui concerne l'avenir, Delangue prédit que la cybersécurité de l'IA deviendra un marché mondial substantiel, avec des modèles open-source jouant un rôle central dans l'élaboration de son avenir.
★
Gardons l’information honnête.
ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.
Devenir soutien