Le Sommet pour l’action sur l’IA, qui se tient cette semaine à Paris, a réuni plusieurs géants de la tech comme Google, OpenAI ou encore Discord. À cette occasion, le lancement de « Roost » (Robust Open Online Safety Tools), une organisation à but non lucratif, a été annoncé. »
Des partenaires comme Microsoft, GitHub ou encore Bluesky figurent également parmi les soutiens de ce projet qui a deja récolté 26,1 millions d’euros.
Roost répond aux défis de sécurité amplifiés par l’IA générative. Face aux coûts et à la complexité des solutions existantes, cette organisation a pour but de développer et superviser des modèles de sécurité open source, accessibles aux développeurs et aux entreprises.
La plupart des outils seront dédiés à la protection et à la sécurité des enfants en ligne, notamment la détection et le signalement de contenus pédopornographiques.
D’une autre part, l’organisation souhaite développer des modules pour rendre la sécurité numérique plus accessible et intuitive.
