Travail technique pour la gouvernance de l’IA
DESCRIPTION
Ce document donne une première liste de travaux techniques utiles pour la gouvernance de l’IA et leurs pistes de recherches associées intéressantes à explorer. Aucune section n’a vocation à être exhaustive car l’objectif premier de ce document est d’avoir une meilleure vue générale de ce qui ce fait / peut se faire en travail technique pour la gouvernance de l’IA. Nous nous focalisons en particulier sur trois domaines : la gouvernance de la puissance de calcul, l’AI forecasting et l’évaluation des modèles/l’élaboration de standards de sûreté.
Date de publication
22/10/23
Date de dernière modification :
29/12/23
écrit par :

Introduction

L'objectif de premier ordre du travail technique pour la gouvernance de l’IA est non pas de résoudre l’alignement mais de “gagner du temps” pour que les travaux en sûreté (interprétabilité, corrigibilité etc.) fassent leurs preuves. “Acheter” du temps pour la sûreté via des régulations ou d’autres outils de politiques publiques devient en effet de plus en plus crucial face à la rapide évolution des capacités des modèles de ML de frontière, alors que la recherche en sûreté est un champ naissant où de grandes avancées scientifiques et techniques sont encore nécessaires pour pouvoir ainsi assurer un développement sûr d’IA avancées.

La suite du document est disponible en cliquant sur le bouton "en savoir plus"

retourEN savoir plusLire