«L’open source est l’antidote», par Camille François

Camille François, chercheuse à l’IFG et Columbia et présidente de l’ONG Roost, a expliqué au micro de France Inter et dans des interviews pour Le Figaro, Les Échos et Next.Ink son ambition de démocratiser l’accès aux outils de modération en ligne grâce à une approche open source. Soutenue par des acteurs majeurs tels que Google, OpenAI, Discord, et dotée d’un financement de 27 millions de dollars, Roost propose des solutions gratuites pour tous les éditeurs de services en ligne.

Camille explique que les outils de modération actuels sont coûteux et réservés aux grandes plateformes, ce qui empêche les plus petites entreprises de rivaliser. Inspirée par les pratiques de la cybersécurité, où la mutualisation via l’open source est courante, Roost adopte une approche collaborative : les entreprises pourront utiliser les outils de l’ONG tout en contribuant à leur amélioration.

Roost se concentre sur trois axes :

1. La détection, suppression et signalement des contenus pédopornographiques, en réponse à l’augmentation de ces contenus avec l’IA générative.
2. La création de classificateurs pour identifier divers contenus problématiques (violence, racisme, harcèlement, etc.) dans différents formats (texte, audio, vidéo).
3. Le développement d’outils et d’interfaces facilitant le travail des modérateurs.

Camille insiste sur le fait que l’open source est une solution clé pour garantir la sécurité en ligne : « L’open source n’est pas le poison, il est l’antidote. » Roost n’impose pas de règles de modération mais fournit des outils modulaires adaptables. Cette initiative arrive dans un contexte où les équipes dédiées à la modération se réduisent dans certaines grandes entreprises, tout en ouvrant la voie à une nouvelle philosophie collaborative de la sécurité en ligne.

>> Ecouter sur France Inter et accessible sur Youtube <<

>> Lire dans Le Figaro <<

>> Lire dans innovation.fr <<

>> Lire dans next.ink <<