{"id":15530,"date":"2018-12-15T10:00:00","date_gmt":"2018-12-15T09:00:00","guid":{"rendered":"https:\/\/lyonelkaufmann.ch\/histoire\/?p=15530"},"modified":"2018-12-15T10:00:00","modified_gmt":"2018-12-15T09:00:00","slug":"quand-les-algorithmes-tournent-mal-nous-avons-besoin-de-plus-de-pouvoir-pour-nous-defendre-disent-les-chercheurs-de-lia","status":"publish","type":"post","link":"https:\/\/lkhistoire.online\/archives\/15530","title":{"rendered":"Quand les algorithmes tournent mal, nous avons besoin de plus de pouvoir pour nous d\u00e9fendre, disent les chercheurs de l’IA"},"content":{"rendered":"

Le public ne dispose pas des outils n\u00e9cessaires pour tenir les algorithmes responsables.<\/strong><\/p>\n

Les gouvernements et les entreprises priv\u00e9es d\u00e9ploient des syst\u00e8mes d’IA \u00e0 un rythme rapide, mais le public n’a pas les outils n\u00e9cessaires pour tenir ces syst\u00e8mes responsables lorsqu’ils \u00e9chouent. C’est l’une des principales conclusions d’un nouveau rapport<\/a> publi\u00e9 par AI Now, un groupe de recherche regroupant des employ\u00e9s d’entreprises technologiques comme Microsoft et Google et affili\u00e9 \u00e0 l’Universit\u00e9 de New York.<\/p>\n

Le rapport examine les d\u00e9fis sociaux de l’intelligence artificielle et des syst\u00e8mes algorithmiques, en se concentrant sur ce que les chercheurs appellent \u00a0\u00bb l’\u00e9cart de responsabilit\u00e9 \u00ab\u00a0, car cette technologie est int\u00e9gr\u00e9e \u00a0\u00bb \u00e0 travers les principaux domaines sociaux \u00ab\u00a0. Ils ont formul\u00e9 dix recommandations<\/a>, dont une demande de r\u00e9glementation gouvernementale de la reconnaissance faciale (ce que le pr\u00e9sident de Microsoft, Brad Smith, a \u00e9galement pr\u00e9conis\u00e9 cette semaine<\/a>) et des lois sur la \u00a0\u00bb\u00a0v\u00e9rit\u00e9 dans la publicit\u00e9\u00a0\u00a0\u00bb pour les produits d’IA, afin que les entreprises ne puissent pas simplement faire du commerce sur la r\u00e9putation de la technologie pour vendre leurs services.<\/p>\n

Le rapport est clair : le danger pour la justice civique est particuli\u00e8rement \u00e9vident lorsqu’il s’agit de l’adoption de syst\u00e8mes de d\u00e9cision automatis\u00e9s (SDA) par le gouvernement. Il s’agit notamment des algorithmes utilis\u00e9s pour le calcul des peines d’emprisonnement et l’attribution de l’aide m\u00e9dicale. Selon les auteurs du rapport, les logiciels sont g\u00e9n\u00e9ralement introduits dans ces domaines dans le but de r\u00e9duire les co\u00fbts et d’accro\u00eetre l’efficacit\u00e9. Mais il s’ensuit souvent que les syst\u00e8mes prennent des d\u00e9cisions qui ne peuvent \u00eatre expliqu\u00e9es ou faire l’objet d’un appel.<\/p>\n

Whittaker, du Google\u2019s Open Research Group, et Kate Crawford, co-fondatrice d’AI Now et chercheuse chez Microsoft, affirment que l’int\u00e9gration de l’ADS dans les services gouvernementaux a d\u00e9pass\u00e9 notre capacit\u00e9 \u00e0 v\u00e9rifier ces syst\u00e8mes. Mais, disent-ils, des mesures concr\u00e8tes peuvent \u00eatre prises pour y rem\u00e9dier. Il s’agit notamment d’exiger que les fournisseurs de technologie qui vendent des services au gouvernement renoncent \u00e0 la protection du secret commercial, ce qui permet aux chercheurs de mieux examiner leurs algorithmes.<\/p>\n

\u00ab\u00a0Il faut \u00eatre capable de dire : \u00a0\u00bb Vous avez \u00e9t\u00e9 coup\u00e9 de Medicaid, voil\u00e0 pourquoi \u00ab\u00a0, et vous ne pouvez pas le faire avec des syst\u00e8mes de bo\u00eete noire \u00ab\u00a0<\/em>, dit M. Crawford. \u00ab\u00a0Si nous voulons rendre des comptes au public, nous devons pouvoir v\u00e9rifier cette technologie.\u00a0\u00bb<\/em><\/p>\n

Un autre domaine o\u00f9 une action imm\u00e9diate est n\u00e9cessaire, disent les deux chercheurs, est l’utilisation de la reconnaissance faciale et la reconnaissance des affects. Le premier est de plus en plus utilis\u00e9 par les forces de police, en Chine, aux \u00c9tats-Unis et en Europe. Le logiciel Rekognition d’Amazon, par exemple, a \u00e9t\u00e9 d\u00e9ploy\u00e9 par la police \u00e0 Orlando et dans le comt\u00e9 de Washington, m\u00eame si des tests ont montr\u00e9 que le logiciel peut fonctionner diff\u00e9remment selon les races. Dans un test o\u00f9 Rekognition a \u00e9t\u00e9 utilis\u00e9 pour identifier les membres du Congr\u00e8s, le taux d’erreur \u00e9tait de 39 % pour les membres non blancs, contre seulement 5 % pour les membres blancs. Et pour ce qui est de la reconnaissance des affects, o\u00f9 les entreprises pr\u00e9tendent que la technologie peut balayer le visage de quelqu’un et lire son caract\u00e8re et m\u00eame son intention, les auteurs d’AI Now disent que les entreprises vendent souvent de la pseudoscience.<\/p>\n

Traduit de :When algorithms go wrong we need more power to fight back, say AI researchers | The Verge<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Le public ne dispose pas des outils n\u00e9cessaires pour tenir les algorithmes responsables. Les gouvernements et les entreprises priv\u00e9es d\u00e9ploient des syst\u00e8mes d’IA \u00e0 un rythme rapide, mais le public n’a pas les outils n\u00e9cessaires pour tenir ces syst\u00e8mes responsables lorsqu’ils \u00e9chouent. C’est l’une des principales conclusions d’un nouveau rapport publi\u00e9 par AI Now, un … Continuer la lecture de « Quand les algorithmes tournent mal, nous avons besoin de plus de pouvoir pour nous d\u00e9fendre, disent les chercheurs de l’IA »<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":15529,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-15530","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry"],"_links":{"self":[{"href":"https:\/\/lkhistoire.online\/wp-json\/wp\/v2\/posts\/15530","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lkhistoire.online\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lkhistoire.online\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lkhistoire.online\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lkhistoire.online\/wp-json\/wp\/v2\/comments?post=15530"}],"version-history":[{"count":0,"href":"https:\/\/lkhistoire.online\/wp-json\/wp\/v2\/posts\/15530\/revisions"}],"wp:attachment":[{"href":"https:\/\/lkhistoire.online\/wp-json\/wp\/v2\/media?parent=15530"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lkhistoire.online\/wp-json\/wp\/v2\/categories?post=15530"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lkhistoire.online\/wp-json\/wp\/v2\/tags?post=15530"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}