Gérer les risques liés à l'IA dans une ère de progrès rapide
DESCRIPTION
Dans ce bref rapport de consensus, nous décrivons les risques liés aux systèmes d'IA avancés à venir. En particulier, nous examinons les dommages sociaux à grande échelle et les utilisations malveillantes, ainsi que la possibilité d’une perte irréversible du contrôle humain sur les systèmes d'IA autonomes. À la lumière des progrès rapides et continus en matière d'IA, nous proposons des priorités urgentes pour la R&D et la gouvernance de l'IA.
Date de publication
4/3/24
Date de dernière modification :
4/3/24
écrit par :
Y. Bengio, G. Hinton, A. Yao, D. Song, P. Abbeel, Y. N. Harari, Y.-Q. Zhang, L. Xue, S. Shalev-Shwartz, G. Hadfield, J. Clune, T. Maharaj, F. Hutter, A. Güneş, S. McIlraith, Q. Gao, A. Acharya, D. Krueger, A. Dragan, P. Torr, S. Russell, D. Kahneman, J. Brauner, S. Mindermann. Traduit par Amaury Laurin

En 2019, GPT-2 ne pouvait pas compter jusqu'à dix de manière fiable. Quatre ans plus tard seulement [NdT : la version originale de ce document date de 2023], les systèmes d'apprentissage profond peuvent écrire des logiciels, générer des scènes photoréalistes à la demande, donner des conseils sur des sujets intellectuels, et combiner le traitement du langage et de l'image pour diriger des robots. Au fur et à mesure que les développeurs de l'IA font évoluer ces systèmes, des capacités et des comportements imprévus apparaissent spontanément, sans programmation explicite. Les progrès de l'IA ont été rapides et, pour beaucoup, surprenants.

Le rythme des progrès pourrait nous surprendre à nouveau. Les systèmes d'apprentissage profond actuels ne disposent pas encore de certaines compétences importantes et nous ne savons pas combien de temps il faudra pour les développer. Toutefois, des entreprises sont engagées dans une course pour créer des systèmes d'IA généralistes qui égalent ou dépassent les capacités humaines dans la plupart des tâches cognitives .

Elles déploient davantage de ressources et développent de nouvelles techniques rapidement pour accroître les compétences de l'IA. Les progrès de l'IA permettent également d'accélérer ces progrès : Les assistants IA sont de plus en plus utilisés pour automatiser la programmation, la collecte de données , et la conception de puces afin d'améliorer davantage les systèmes d'IA.

Il n'y a aucune raison fondamentale pour que les progrès de l'IA ralentissent ou s'arrêtent au niveau humain. En effet...

retourEN savoir plusLire