Pourquoi cette initiative ? L'intelligence artificielle connaît un développement fulgurant, ouvrant d'immenses possibilités mais impliquant aussi des risques majeurs en matière de sécurité. Des problèmes tels que les jailbreaks, les hallucinations, le manque de transparence, ou encore les enjeux de cybersécurité, voire la perte de contrôle des systèmes d’IA, sont voués à prendre des proportions inquiétantes étant donné la vitesse à laquelle ceux-ci gagnent en capacité et en autonomie.

‍

Face à une préparation mondiale qui semble insuffisante, il est crucial de favoriser l'engagement d'une variété d'acteurs. C'est précisément la mission que se donne le CeSIA : soutenir les acteurs clés de l'IA pour les préparer aux défis à venir, en contribuant à l'établissement d'un écosystème français de l'IA riche et collaboratif.

‍

Le cœur de métier du CeSIA sera d'apporter un éclairage technique sur les tendances de développement de l'IA, afin d'identifier les risques et enjeux actuels et d'anticiper les défis futurs. Nos activités se concentreront sur trois axes principaux :

‍

• La recherche : Nous développerons des outils open source pour superviser l'opération des modèles d'IA et détecter des modes de défaillance, y compris ceux inconnus des développeurs.
• L'information du grand public : Nous nous engageons à élever la conscience collective sur les usages et enjeux de l'IA, afin que chacun puisse comprendre et s'impliquer dans ces questions cruciales.
• La formation des futures générations : Nous formerons les chercheurs et développeurs de demain, en mettant l'accent sur l'évaluation et l'adaptation des systèmes d'IA.

‍

Le CeSIA a vocation à jouer un rôle clé dans la construction d'un avenir où l'IA sera à la fois responsable et sûre, au service de l'humanité.

‍

Retrouvez plus d’informations et suivez nos actualités sur le site du CeSIA.

‍

L'équipe du CeSIA