EffiSciences vous aide à trouver vos futurs stages en Sûreté de l’Intelligence Artificielle !
Nous mettons à disposition notre réseau de chercheurs pour connecter les étudiants motivés avec des mentors du domaine, en France et à l’étranger.
En 8 semaines, vous découvrirez les principaux champs et principes de la sûreté des IAs, et serez encadré·es pour la rédaction d’une note de synthèse d’un des thèmes.
Afin d'assurer la fiabilité des intelligences artificielles, il est nécessaire de les comprendre en examinant leur processus décisionnel. Par exemple, des travaux ont déjà permis de comprendre comment les IAs effectuent l'addition modulaire (grokking), ou comment elles identifient les personnages d’une phrase (IOI).
Savoir si nos IAs vont nous être nocives est très important pour informer les entreprises qui les possèdent et les gouvernements qui font les lois. Ainsi, nous vous proposons d’évaluer les dangers des modèles de langage sur les sujets de vérité, sycophancy ou déception.
Il y a beaucoup de domaines à l’interface du Deep Learning qui peuvent être utiles pour garantir des IAs sûres. Notamment, l’économie, les sciences cognitives (Brain-like AGI), les mathématiques fondamentales (Open Agency Architecture), etc.
