{"id":38,"date":"2019-08-05T11:49:28","date_gmt":"2019-08-05T11:49:28","guid":{"rendered":"http:\/\/blog.atlant.is\/?p=38"},"modified":"2021-02-21T21:49:25","modified_gmt":"2021-02-21T19:49:25","slug":"explainable-ai","status":"publish","type":"post","link":"https:\/\/blog.douzeb.is\/?p=38","title":{"rendered":"eXplainable AI?"},"content":{"rendered":"\n

Appr\u00e9hendant un possible nouvel \u00ab\u00a0hiver\u00a0\u00bb susceptible de venir geler les retomb\u00e9es \u00e9conomiques de l’intelligence artificielle, les philanthropes<\/a> de PricewaterhouseCoopers proposent une piste<\/a> pour sauver ce march\u00e9 dynamique.<\/p>\n\n\n\n

Le probl\u00e8me : le public voudrait \u00eatre bien s\u00fbr que l’IA, oracle aux voies imp\u00e9n\u00e9trables, prend ses d\u00e9cisions en accord avec les \u00ab\u00a0principes \u00e9thique de base\u00a0\u00bb, et les executive managers exigeraient un \u00ab\u00a0bouclier\u00a0\u00bb contre les \u00e9ventuelles cons\u00e9quences \u00ab\u00a0inattendues\u00a0\u00bb des algorithmes et leurs possibles cons\u00e9quences en terme de \u00ab\u00a0r\u00e9putation\u00a0\u00bb.<\/p>\n\n\n\n

Bref, pour sauver la promesse d’un gain de PNB de 15 000 milliards de dollars d’ici \u00e0 2030, PwC recommande d’investir dans une Intelligence Artificielle capable d’expliquer ses d\u00e9cisions.<\/p>\n\n\n\n

Mais que veut dire expliquer ?<\/p>\n\n\n\n

\"\"<\/figure><\/div>\n\n\n\n

On pourrait argumenter que la force du machine learning<\/em> et autres deep neural networks<\/em>, compar\u00e9s aux anciens syst\u00e8mes \u00e0 base de r\u00e8gles, est de ne pas \u00eatre contraints \u00e0 d\u00e9finir leur processus de d\u00e9cision par le truchement de la parole et des mots. Autrement dit : ne pas \u00eatre contraints \u00e0 \u00eatre explicables. En effet, on con\u00e7oit bien qu’un r\u00e9seau neuronal comportant plusieurs dizaines de milliards de param\u00e8tres num\u00e9riques<\/a> ne puisse pas \u00eatre facilement compress\u00e9 en un texte, m\u00eame long de quelques milliers de pages.<\/p>\n\n\n\n

Donc, que veut dire expliquer ? S’agit-il, comme le ferait un math\u00e9maticien, de compl\u00e9ter l’\u00e9clair initial intuitif et cr\u00e9ateur par une preuve rigoureuse et analytique ? D’utiliser notre cerveau lent<\/em> pour confirmer la trouvaille de notre cerveau rapide<\/em> ? (cf Thinking, Fast and Slow<\/a><\/em>, Daniel Kahneman).<\/p>\n\n\n\n

La r\u00e9alit\u00e9 est s\u00fbrement plus mercantile. Il n’est pas question de d\u00e9montrer la v\u00e9rit\u00e9 mais plut\u00f4t de \u00ab\u00a0construire la confiance\u00a0\u00bb, c’est \u00e0 dire fabriquer le consentement. Entre les lignes, on comprend qu’il s’agit au mieux de vulgariser (permettre au public de \u00ab\u00a0comprendre en gros comment les variables en entr\u00e9e influent sur le r\u00e9sultat en sortie\u00a0\u00bb), au pire de manipuler : en m\u00eame temps que fournir une d\u00e9cision, fournir les \u00e9l\u00e9ments de langage pour la faire avaler par le public.<\/p>\n\n\n\n

Et on peut imaginer un futur radieux o\u00f9 l’IA au service de la politique de quelques uns proposerait \u00e0 la fois les textes l\u00e9gislatifs et la com’ assurant le service apr\u00e8s-vente. Bref, lib\u00e9rer les \u00e9nergies et aplanir les obstacles \u00e0 l’av\u00e9nement de la douce promesse \u00e0 15 000 milliards de dollars.<\/p>\n\n\n\n

Would somebody please throw a wrench into the works?<\/p>\n","protected":false},"excerpt":{"rendered":"

Appr\u00e9hendant un possible nouvel \u00ab\u00a0hiver\u00a0\u00bb susceptible de venir geler les retomb\u00e9es \u00e9conomiques de l’intelligence artificielle, les philanthropes de PricewaterhouseCoopers proposent une piste pour sauver ce march\u00e9 dynamique. Le probl\u00e8me : le public voudrait \u00eatre bien s\u00fbr que l’IA, oracle aux voies imp\u00e9n\u00e9trables, prend ses d\u00e9cisions en accord avec les \u00ab\u00a0principes \u00e9thique de base\u00a0\u00bb, et les […]<\/p>\n","protected":false},"author":1,"featured_media":3559,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[13],"tags":[],"ppma_author":[76],"authors":[{"term_id":76,"user_id":1,"is_guest":0,"slug":"fred","display_name":"Fred","avatar_url":"https:\/\/secure.gravatar.com\/avatar\/ec0326d654fdf9f66e9eb42bb34a9bc4?s=96&d=mm&r=g","description":"","first_name":"","last_name":"","user_url":""}],"_links":{"self":[{"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=\/wp\/v2\/posts\/38"}],"collection":[{"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=38"}],"version-history":[{"count":9,"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=\/wp\/v2\/posts\/38\/revisions"}],"predecessor-version":[{"id":730,"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=\/wp\/v2\/posts\/38\/revisions\/730"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=\/wp\/v2\/media\/3559"}],"wp:attachment":[{"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=38"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=38"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=38"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/blog.douzeb.is\/index.php?rest_route=%2Fwp%2Fv2%2Fppma_author&post=38"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}