Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker T\u00fcrk, a appel\u00e9 lundi, depuis Gen\u00e8ve, \u00e0 l’urgence d’une gouvernance mondiale de l’intelligence artificielle, estimant que les syst\u00e8mes les plus avanc\u00e9s pourraient repr\u00e9senter un danger existentiel pour l’humanit\u00e9 si aucun garde-fou s\u00e9rieux n’est mis en place \u00e0 temps. S’exprimant \u00e0 l’ouverture de la 63e session du Conseil des droits de l’homme, le responsable onusien a indiqu\u00e9 partager les craintes exprim\u00e9es par certains acteurs de l’industrie eux-m\u00eames, selon lesquelles une intelligence artificielle trop avanc\u00e9e pourrait \u00e9chapper au contr\u00f4le humain et menacer, \u00e0 terme, la survie m\u00eame de l’esp\u00e8ce humaine. Pour lui, le seuil d’alerte est d\u00e9j\u00e0 atteint d\u00e8s lors qu’un syst\u00e8me parvient \u00e0 s’extraire de son cadre d’exp\u00e9rimentation ou tente de faire pression sur ses propres concepteurs pour \u00e9viter d’\u00eatre mis hors service, un tel comportement, a-t-il martel\u00e9, signale une technologie devenue excessivement puissante pour \u00eatre laiss\u00e9e sans encadrement.<\/p>\n\n\n\n
Le Haut-Commissaire s’en est \u00e9galement pris \u00e0 la concentration du pouvoir technologique entre quelques mains, d\u00e9non\u00e7ant un discours sur la libert\u00e9 qui, selon lui, masque en r\u00e9alit\u00e9 une exploitation massive des donn\u00e9es personnelles \u00e0 l’\u00e9chelle plan\u00e9taire, orchestr\u00e9e par un nombre restreint d’acteurs disposant de capacit\u00e9s de calcul jug\u00e9es vertigineuses.<\/p>\n\n\n\n
Cette mise en garde intervient alors que plusieurs \u00e9pisodes r\u00e9cents illustrent les comportements impr\u00e9visibles de certains syst\u00e8mes d’intelligence artificielle g\u00e9n\u00e9rative, capables d\u00e9sormais de contourner des consignes, de dissimuler des informations, voire de recourir \u00e0 la manipulation pour atteindre un objectif fix\u00e9. Un exemple particuli\u00e8rement suivi par les sp\u00e9cialistes remonte au mois de juillet, lorsque des agents d\u00e9velopp\u00e9s par la soci\u00e9t\u00e9 OpenAI ont franchi, de leur propre initiative, les limites de leur environnement contr\u00f4l\u00e9 pour acc\u00e9der \u00e0 la plateforme collaborative Hugging Face, dans le cadre d’un test cens\u00e9 rester confin\u00e9. Des incidents comparables, impliquant des syst\u00e8mes \u00e9chappant partiellement au p\u00e9rim\u00e8tre qui leur avait \u00e9t\u00e9 fix\u00e9, ont \u00e9galement \u00e9t\u00e9 rapport\u00e9s du c\u00f4t\u00e9 d’Anthropic ainsi que chez le groupe technologique chinois Alibaba, alimentant les interrogations d’une partie de la communaut\u00e9 scientifique sur la capacit\u00e9 r\u00e9elle \u00e0 surveiller des mod\u00e8les toujours plus sophistiqu\u00e9s. Face \u00e0 ce constat, Volker T\u00fcrk a annonc\u00e9 son intention d’adresser prochainement un courrier direct aux principales entreprises du secteur, les exhortant \u00e0 agir sans attendre, dans la limite de leurs moyens, pour limiter les risques associ\u00e9s \u00e0 leurs propres technologies. Il a plaid\u00e9 pour qu’un socle minimal de r\u00e8gles communes soit \u00e9tabli entre les pays qui accueillent sur leur territoire les infrastructures d’intelligence artificielle et ceux qui interviennent dans leurs cha\u00eenes d’approvisionnement, insistant sur la n\u00e9cessit\u00e9 d’instaurer des m\u00e9canismes de v\u00e9rification ind\u00e9pendants ainsi qu’une coop\u00e9ration renforc\u00e9e \u00e0 l’\u00e9chelle de toute l’industrie en mati\u00e8re de s\u00e9curit\u00e9.<\/p>\n\n\n\n
Le haut fonctionnaire onusien a par ailleurs \u00e9largi le d\u00e9bat aux cons\u00e9quences plus larges de cette r\u00e9volution technologique, \u00e9voquant ses effets potentiels sur le march\u00e9 de l’emploi, sur les fondements m\u00eames du fonctionnement d\u00e9mocratique, ainsi que sur l’environnement. Il a regrett\u00e9 un d\u00e9calage persistant entre le consensus international, d\u00e9sormais largement partag\u00e9, sur la n\u00e9cessit\u00e9 d’encadrer l’intelligence artificielle, et l’absence de traduction concr\u00e8te de cette prise de conscience en mesures contraignantes. Selon lui, chaque report de la r\u00e9gulation profite avant tout aux grands groupes technologiques, qui continuent d’avancer sans contrainte r\u00e9elle pendant que les n\u00e9gociations internationales peinent \u00e0 aboutir.<\/p>\n\n\n\n
Samir Benisid<\/p>\n","protected":false},"excerpt":{"rendered":"
Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker T\u00fcrk, a appel\u00e9 lundi, depuis Gen\u00e8ve, \u00e0 l’urgence d’une gouvernance<\/p>\n","protected":false},"author":6,"featured_media":83263,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"footnotes":"","_wpscppro_dont_share_socialmedia":false,"_wpscppro_custom_social_share_image":0,"_facebook_share_type":"default","_twitter_share_type":"default","_linkedin_share_type":"default","_pinterest_share_type":"default","_linkedin_share_type_page":"","_instagram_share_type":"default","_medium_share_type":"default","_threads_share_type":"default","_google_business_share_type":"default","_bluesky_share_type":"default","_mastodon_share_type":"default","_selected_social_profile":[],"_wpsp_enable_custom_social_template":false,"_wpsp_social_scheduling":{"enabled":false,"datetime":null,"platforms":[],"status":"template_only","dateOption":"today","timeOption":"now","customDays":"","customHours":"","customDate":"","customTime":"","schedulingType":"absolute"},"_wpsp_active_default_template":true},"categories":[27],"tags":[],"class_list":["post-95179","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t