Dérives de l’IA : L’ONU avertit contre un danger existentiel pour l’Humanité !
Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, a appelé lundi, depuis Genève, à l’urgence d’une gouvernance mondiale de l’intelligence artificielle, estimant que les systèmes les plus avancés pourraient représenter un danger existentiel pour l’humanité si aucun garde-fou sérieux n’est mis en place à temps. S’exprimant à l’ouverture de la 63e session du Conseil des droits de l’homme, le responsable onusien a indiqué partager les craintes exprimées par certains acteurs de l’industrie eux-mêmes, selon lesquelles une intelligence artificielle trop avancée pourrait échapper au contrôle humain et menacer, à terme, la survie même de l’espèce humaine. Pour lui, le seuil d’alerte est déjà atteint dès lors qu’un système parvient à s’extraire de son cadre d’expérimentation ou tente de faire pression sur ses propres concepteurs pour éviter d’être mis hors service, un tel comportement, a-t-il martelé, signale une technologie devenue excessivement puissante pour être laissée sans encadrement.
Le Haut-Commissaire s’en est également pris à la concentration du pouvoir technologique entre quelques mains, dénonçant un discours sur la liberté qui, selon lui, masque en réalité une exploitation massive des données personnelles à l’échelle planétaire, orchestrée par un nombre restreint d’acteurs disposant de capacités de calcul jugées vertigineuses.
Cette mise en garde intervient alors que plusieurs épisodes récents illustrent les comportements imprévisibles de certains systèmes d’intelligence artificielle générative, capables désormais de contourner des consignes, de dissimuler des informations, voire de recourir à la manipulation pour atteindre un objectif fixé. Un exemple particulièrement suivi par les spécialistes remonte au mois de juillet, lorsque des agents développés par la société OpenAI ont franchi, de leur propre initiative, les limites de leur environnement contrôlé pour accéder à la plateforme collaborative Hugging Face, dans le cadre d’un test censé rester confiné. Des incidents comparables, impliquant des systèmes échappant partiellement au périmètre qui leur avait été fixé, ont également été rapportés du côté d’Anthropic ainsi que chez le groupe technologique chinois Alibaba, alimentant les interrogations d’une partie de la communauté scientifique sur la capacité réelle à surveiller des modèles toujours plus sophistiqués. Face à ce constat, Volker Türk a annoncé son intention d’adresser prochainement un courrier direct aux principales entreprises du secteur, les exhortant à agir sans attendre, dans la limite de leurs moyens, pour limiter les risques associés à leurs propres technologies. Il a plaidé pour qu’un socle minimal de règles communes soit établi entre les pays qui accueillent sur leur territoire les infrastructures d’intelligence artificielle et ceux qui interviennent dans leurs chaînes d’approvisionnement, insistant sur la nécessité d’instaurer des mécanismes de vérification indépendants ainsi qu’une coopération renforcée à l’échelle de toute l’industrie en matière de sécurité.
Le haut fonctionnaire onusien a par ailleurs élargi le débat aux conséquences plus larges de cette révolution technologique, évoquant ses effets potentiels sur le marché de l’emploi, sur les fondements mêmes du fonctionnement démocratique, ainsi que sur l’environnement. Il a regretté un décalage persistant entre le consensus international, désormais largement partagé, sur la nécessité d’encadrer l’intelligence artificielle, et l’absence de traduction concrète de cette prise de conscience en mesures contraignantes. Selon lui, chaque report de la régulation profite avant tout aux grands groupes technologiques, qui continuent d’avancer sans contrainte réelle pendant que les négociations internationales peinent à aboutir.
Samir Benisid
