kiss my frogs
Contribuer
Twitter Facebook LinkedIn RSS
[ Rechercher ]
Accueil Contribuer TwitterTwitter FacebookFacebook LinkedInLinkedIn RSSRSS

Il y a cinq ans, attablée à un petit bureau en bois dans un espace de coworking à Matera en Italie devant une vue improbable, je finissais de rédiger mon premier article sur la relation de la collaboration homme-machines, De la coopération entre les hommes et les machines : pour une approche pair-à-pair de l’intelligence collective. Je m’interrogeais alors sur le sens que prendrait le travail lorsque l’IA assujettirait, l’une après l’autre, nos facultés humaines. Comment rendre les hommes et les algorithmes complémentaires ? Comment la technologie inspirerait-elle le travail collectif ? Pour quelles raisons les meilleures décisions reposent-elles sur la diversité ? Cette première réflexion a posé les bases de ce qui est devenu mon cadre de réflexion :  la volonté de comprendre les conditions de possibilité d’un design technologique qui rendrait les humains, plus humains, aptes et libres.

Depuis deux ans, on ne parle que de l’IA. Et il est certain que depuis les dernières semaines, les choses se sont accélérées en ce qui la concerne. Un partenariat sur l’IA a été lancé par Amazon, Google, IBM et Microsoft pour mener recherches et réflexions sur ses risques subséquents. Microsoft a regroupé ses diverses divisions pour n’en créer qu’une seule intégrée de 5000 employés. Le numéro “Money” du New Yorker a consacré un article sur les considérations de Sam Altman, l’un des pères fondateurs de l’Open AI (parmi Elon Musk, Reid Hoffman and Peter Thiel), avec cette certitude : dans les années à venir, l’archipel de la tech se mettrait à parler et à penser obsessivement l’IA. Comment et pourquoi?

Par delà le bien et le mal

A l’exception notable d’Elon Musk et d’intellectuels tels que Tim O’Reilly, de nombreux techno-optimistes ont démontré un intérêt sincère pour le remplacement hypothétique des hommes par les automates, ou, pour être plus précise, du travail et des compétences humaines par la machine. De plus en plus, les réflexions sur l’IA et le machine learning semblent s’être polarisées : il y a les Pours, forts de leur fantasme de singularité et de la célébration du jour où DeepMind triomphera du jeu de Go. Et les Contres, techno-sceptiques (Morozov, Caar, pour ne citer qu’eux) plaidant le retour de l’autorité publique au coeur de la Silicon Valley.

Or, être pour ou contre l’IA ne fait pas plus sens qu’être pour ou contre la technologie. L’IA est partout, organiquement intégrée dans la chaîne de valeur de l’entreprise et des produits et services, bons comme mauvais, dont il est difficile de se passer. Il n’y a pas de frontières fermes entre ce que nous nommons “intelligence artificielle” et “intelligence humaine” puisque l’IA n’est, pour l’essentiel, qu’un protocole. La curiosité que lui porte l’humanité ne nous permettra jamais d’abandonner un développement si fascinant du savoir. Or, pour déjouer le sort d’Internet, qui a évolué en un objet radicalement différent, si ce n’est antithétique de ses premières heures, nous devrions dès à présent nous poser les bonnes questions. Sans conteste, l’une d’elles est celle de l’éthique. Ainsi, deux interrogations se présentent à nous :

  • Comment les services et produits tournés vers l’intelligence artificielle sont façonnés par la philosophie et les valeurs des acteurs qui les produisent ?
  • Pourquoi ces facteurs sont-ils cruciaux pour le développement des relations entre l’homme et la machine dans notre futur proche ?

 

Je prends ici l’exemple d’une entreprise pour laquelle je travaillais, Microsoft. Ce, pour deux raisons : les efforts qu’elle a mené pour développer une vision sur l’IA dans les derniers mois et pour dévoiler avec franchise ses intentions. La seconde raison, parce que j’ai dédié une partie de mon temps à comprendre la vision de cette entreprise sur le futur de la Tech, particulièrement la théorie de Satya Nadella sur l’intégration de l’IA dans les logiciels et outils, et qu’elle me paraît quasi unique au regard de celles des autres géants de la Tech.

De l’encre a coulé à propos du pivot de Microsoft et du rôle que Satya Nadella y a joué. Tout ceci a contribué au regain incroyable du critère le plus intangible et fondamental dans l’économie de l’attention : la sexitude. Mais le “sexy” est surestimé parce qu’éphémère et superficiel. Un jour tu es cool, l’autre tu coules. Ce qui importe, c’est ce qui se passe derrière le voile de l’histoire.

Derrière la stratégie d’entreprise et la restructuration de l’organisation, Satya Nadella a implacablement exigé de l’entreprise qu’elle se pose les questions suivantes :

  • Comment l’organisation doit-elle interagir et affecter les structures socio-économiques ?
  • Quelle est la position de Microsoft sur les lendemains de la relation homme-machine et comment la traduire dans le design de ses produits ?

 

Examinons les deux pistes.

Le but de toute entreprise est intrinsèquement social

Une organisation génère constamment des externalités qui affectent le monde, et elle. En théorie, et parce que ces effets sont externes et ne semblent pas fragiliser sa performance, une entreprise a finalement peu de raisons de les envisager. Et a fortiori, de les intégrer comme éléments-clés de sa mission (l’histoire de Ford levant les salaires de ses travailleurs pour créer le marché de ses propres voitures passe aujourd’hui pour un conte de fée).

Pourtant, une organisation est profondément enracinée dans l’environnement sur lequel elle opère et parce qu’elle se mêle aux individus, à d’autres entreprises ou à d’autres institutions, elle détient une responsabilité sociale intrinsèque. C’est de cette tension que naissent les politiques publiques de régulation qui poussent les entreprises à internaliser ces externalités. Mais y a t-il des entreprises qui reconnaissent, sans contraintes publiques, que leur impact social n’est pas qu’une simple strate de responsabilité corporate à mettre au sommet des KPI mais bien le fondement, la colonne vertébrale qui devrait être pleinement intégrée à sa mission ? Beaucoup en réalité, comme les B corps : Patagonia, Ben&Jerry, Hootsuit et bien d’autres.

Qu’en est-il des géants de la tech ? L’obsession d’Apple pour le design, qui l’élève au rang de marque de respect pour ses utilisateurs, et la croyance de Google pour la théorie de la Singularité – ces deux visions (dont il n’est pas question ici d’interroger le sens éthique) font désormais partie de l’histoire, et sont primordiales pour comprendre leur stratégie commerciale. A l’opposé, Microsoft a longtemps été labellisée comme l’entreprise dont l’obsession de la vente de licences n’a fait qu’affaiblir la vision héritée de Bill Gates. On ne peut être un acteur crédible de l’IA avec un départ si désastreux. C’est ce qui explique les efforts de Satya Nadella pour construire les bases solides d’une meilleure compréhension par l’entreprise de sa propre mission.

Bien qu’à ma connaissance, il ne l’ait jamais directement mentionné, sa parenté intellectuelle avec Amartya Sen est une évidence (indiens, humanistes, tous deux impliqués dans les vertus du marché et du développement économique). Après tout, le concept des “capabilités” est omniprésent dans ses discours et son obsession de mettre l’éthique en avant résonne en écho avec l’approche d’Amartya Sen (voir On ethics and economics). Ces trames théoriques aident à comprendre sa volonté de prendre ses distances avec des discours standardisés : une entreprise devrait adapter sa stratégie et ses produits aux cultures locales et aux environnements sociaux.

Dans une interview, Satya Nadella témoignait du fait que lorsqu’il était enfant et qu’il vivait en Inde, il reconnaissait parfaitement les entreprises étrangères qui étaient là pour apporter quelque chose d’utile à son pays, et quelles autres étaient là pour sacrifier l’Inde sur l’autel du profit. Pour autant, affirmer la mission de Microsoft comme intrinsèquement sociale n’est qu’un premier pas, nécessaire pour corriger ses actions passées, mais encore insuffisant pour le rétablir comme un pionnier crédible de l’innovation. Pour cela, une organisation a besoin d’une idéologie qui lui est propre, et que l’on nomme mollement “vision”.

Si nous voulons que tout reste tel que c’est, il faut que tout change

Le temps des idéologies est vraisemblablement derrière nous, rapidement remplacé par celui de la rationalité et la science. Il y a finalement très peu d’entreprises qui revendiquent, au-delà des relations presse, une vision du monde à venir. Sans doute, on trouve là une raison de la désillusion de ma génération envers les grandes entreprises et sa passion grimpante pour les startups, là où la “vision” et “l’individu” sont assurément les seuls atouts indispensables. Mais voilà, la vision est souvent confondue avec “ce à quoi le monde devrait ressembler demain pour rendre mon succès plausible”. Très peu se soucient des conséquences réelles qu’un choix commercial pourrait avoir sur l’architecture de notre futur.

Les géants de la tech sont une exception. Alphabet, Amazon, Facebook, et Tesla. Toutes ont une vision, deux ont une idéologie : Alphabet et Tesla. Les autres ne font que prendre position sur la question de la singularité. Et sur la question de la chute des structures traditionnelles (institutions, les Etats, les régulations). En créant des écosystèmes intégrés, Elon Musk, vise à se libérer du joug des déterminismes naturels et économiques. Bien que radicalement différents, ces acteurs ont pourtant en commun la volonté d’écarter l’humain des processus du business et de la consommation. Google répond aux questions que vous n’avez pas encore formulées quand les voitures Tesla auront à prendre demain cette décision cruciale : Quel individu sacrifier en cas d’accident?

L’ambition semble noble : nous libérer des tâches pénibles. Dédier notre temps à ce que nous voulons vraiment. Bien sûr, la petite histoire ne raconte pas si nous serons capables de savoir ce que voulons. La vision de Satya Nadella sur la destinée du travail de l’homme est bien différente de ces théories. Dans la plupart de ses interviews, il affirme que l’automatisation et les changements d’organisation détruisent massivement le travail pour exercer une nouvelle forme de pression sur les humains. Et imposer la reconversion permanente. Or, loin de rendre le travail humain obsolète, les compétences des machines demeurent inférieures aux capacités humaines. Il faudrait être fou pour laisser aux algorithmes, le siège de notre raison, de nos émotions et de notre volonté.

N’est-ce déjà pas le cas. Nous abandonnons à la main invisible de la technologie notre plus grand trésor : l’attention.

“Avec toute cette abondance technologique, ce que je n’ai pas, c’est l’attention de vivre une vie remplie et d’en jouir” avançait Satya Nadella dans une interview. »

Nous sommes en train de livrer le soin de nos décisions et de notre autonomie à d’obscurs automates dont nous ignorons les règles du design. Car ce qui a véritablement changé ces vingt dernières années n’est pas fondamentalement le pouvoir de la technique mais notre graduelle soumission, qui fait déjà de nous des damnés. Nous ne sommes pas les seuls à blâmer. Les coupables de cette capitulation sont ceux qui ont conçu la Tech pour influencer notre comportements et prédéterminer nos choix.

Les remèdes ne sont  pas du côté d’une “techless society”, mais dans le design d’une technologie qui encense notre liberté, nos capacités et nos choix, et surtout notre éducation.

Préceptes d’une IA qui augmente les capacités humaines

La technologie n’est pas neutre : les machines que nous créons sont largement biaisées. Même si nous les percevons comme objectives. Ce, parce que nous ignorons les choix qui y ont été intégrés. Nous pensons savoir, alors que nous devrions avoir conscience que nous ignorons tout. Une technologie usurpe non seulement les choix conscients de leur créateurs (qui sont idéologiques) et les choix inconscients : le contexte structurel, les biais subjectifs, l’état d’esprit des créateurs, etc. Kate Crawford le démontre brillamment dans sa pièce, Artificial Intelligence White Guy’s problem:

“Comme toutes les technologies avant elle, l’intelligence artificielle reflète les valeurs de ses créateurs. La question de leur inclusion importe. Sinon nous risquons de construire une intelligence artificielle reproduisant une vision étroite et privilégiée de la société. »

Nous pouvons concevoir une technologie qui loue l’autonomie et la variété des choix. Ou nous pouvons choisir de la rendre opaque pour pousser les individus à adopter des comportements prédéterminés. Dans son livre The World Beyond Your Head, le philosophe Mathew Crawford dévoile la stratégie essentielle du design : une guerre pour notre attention. L’attention nous fait accéder au monde, à l’autre au travers d’une expérience véritable (physique, parfois même violente). Afin de dérober notre attention, les acteurs de la tech cherchent à nous protéger de l’expérience extérieure. En créant des “strates de représentation” qui nous limitent dans nos choix et nous empêchent d’être conscient du choix que la technologie a déjà fait pour nous.

Vous souvenez-vous de la dernière fois que vous avez pesté sur un appareil trop lent? Comment vous manquez de compassion lorsqu’une application ne correspond pas à vos standards? A présent, songez à la patience dont témoignaient vos grands parents pour réaliser des travaux techniques plus lents ? Ce n’est pas la technologie qui a changé mais notre disposition à tolérer ses failles.

Je ne suis pas sûre que que Satya Nadella ait lu l’ouvrage de Mathew Crawford ( et ce dernier ne pensait certainement pas à Microsoft quand il plaidait la cause de choix technologiques plus justes. Mais je ne peux m’empêcher d’établir un parallèle quand j’écoute Satya Nadella établir pour l’IA les préceptes suivants :

  • Elle doit encenser les capacités de l’homme et lui proposer une expérience plus en contact avec le réel.
  • L’IA doit être suffisamment transparente pour que nous puissions comprendre l’architecture de choix qui y a été incluse.
  • Elle doit intégrer des valeurs qui s’appuient sur l’empathie et la diversité.

 

“Les experts et les spécialistes vous mènent rapidement au chaos.” Frank Herbert 

Ces préceptes ne prennent sens qu’une fois infusés au coeur de produits et services conçus par l’entreprise. Que veut dire concrètement Satya Nadella lorsqu’il entend se concentrer sur une technologie partenaire des hommes?

La réponse se trouve sans doute dans ce que Satya Nadella nomme la “conversation as a service” : une interaction homme-machine à placer dans le langage humain et non dans le code. Pour accroître les aptitudes de tous, l’IA devrait être capable de parler le langage de l’intelligence humaine et répondre à ses besoins. Elle ne devrait pas être en mesure de répondre à notre place. Quand je cherche un restaurant sur le web, la technologie n’est-elle pas plus honnête lorsqu’elle ne m’offre pas d’emblée ce que je n’ai pas demandé ? L’IA devrait intervenir lorsque j’ai décidé en avoir besoin et non pas l’inverse. Nous ne devrions pas métamorphoser le monde entier en un monde de codeurs et rendre obsolètes ceux qui ne veulent ou ne peuvent pas apprendre à coder.

La productivité est l’affaire de notre attention. Non la mesure de tâches achevées en 4 heures. Le but de cette “conversation as a service” aspire à libérer les hommes des besoins de la spécialisation déraisonnable. Elle aspire à les laisser se concentrer sur ce qui nous différencie définitivement de la machine,  la possibilité de dédier notre attention à ce qui importe le plus, à nos pairs et au monde :

“Regarder ailleurs, chercher des principes de vies, connaître ce que change ces principes et ce qu’ils développent” 

Une société construite sur les principes suivants est anti-individualiste. Elle lutte pour la création d’organisations et d’institutions du peuple par le peuple.  Nos désirs, nos errances et parfois nos ambitions ne sont pas des failles que les algorithmes peuvent corrigés. Mais peut-être les traits sensibles de ce qui nous définit comme êtres humains, les fondations du travail de l’homme et de la création. Construire une IA partenaire des hommes. Cette ambition est chère à cette jeune femme que je suis et qui a vécu dans le chaos sauvage de Moscou, dans le début des années 90. J’en ai gardé les mêmes souvenirs et ils conditionnent ma vision du commerce des marchés, et des Etats.

Cet article a été publié initialement en anglais sur Medium en octobre 2016. Nous le republions pour alimenter le débat actuel sur l’intelligence artificielle, omniprésent lors de la dernière édition de Vivatech.

Microsoft respecte votre vie privée. Veuillez consulter notre Déclaration de confidentialité.

Les commentaires sont fermés pour cet article