Au cours des vacances de la Toussaint, plusieurs élèves se sont rendus en Californie dans le cadre d’une learning expedition organisée par le Centre pour l’Entrepreneuriat de Sciences Po Paris. À cette occasion, les participant.e.s ont découvert le monde si particulier de la Silicon Valley. Jusqu’au 14 décembre prochain, nous publions chaque jeudi une chronique rédigée par eux, chronique au sujet de cette expérience aux multiples facettes. 

Épisode 3 : L’intelligence artificielle : démystifier, comprendre, politiser

« Artificial Intelligence  is the new electricity » – Andrew Ng, Co-Fondateur de Coursera

Changer le monde par la technologie, voilà le mantra de l’entrepreneur californien. Après une semaine passée à rencontrer des acteurs de la Silicon Valley, nous avons pu comprendre cela. Cette philosophie, analysée par Yaël et Thomas dans l’Episode 1, met hors du champ du politique tout sujet qui peut être réglé par une compagnie de la tech, par un nouvel algorithme, une nouvelle application.

Anti-démocratique, direz-vous ? Cette conception dérive surtout d’un partage dichotomique du peuple, entre les élus ingénieurs d’une part, et les profanes individus de l’autre : comment peut-on avoir un débat démocratique sur des sujets nécessitant un PhD en statistiques ? Que peut bien apporter la société civile à un complexe économico-universitaire développant et offrant, voire imposant, ses progrès au reste de la société ?

Il convient alors de démystifier et de comprendre le fonctionnement de ces technologies, afin d’en saisir les impacts futurs sur notre société et de leur offrir une place dans le débat public. Nous essaierons donc ici d’expliquer, à la lumière des rencontres effectuées lors de notre voyage, le fonctionnement et les enjeux de la technologie majeure qu’est le Machine Learning.

Machine Learning, Intelligence Artificielle ou Data Science ?

« Tu fais des maths ? Tu sais en data science ça embauche bien ! », « Bah, avec l’intelligence artificielle, ces boulots-là n’existeront plus », « On pourrait faire du machine learning pour prédire les cours de bourse ! ».

Utilisés indifféremment, ces trois termes désignent en général les pratiques du Machine Learning, c’est-à-dire l’utilisation de statistiques, de probabilités et d’informatique avancé pour construire des modèles de prédiction d’information. La data science est quant à elle une discipline plus large, incluant les problématiques de stockage et de traitement de données, tandis que l’intelligence artificielle est un terme totalement générique, incluant tout comportement d’un programme effectuant des tâches traditionnellement considérées comme propres à l’être humain.  Le terme Machine Learning vient de la notion d’apprentissage statistique. Qu’est-ce que cela signifie réellement ?

L’apprentissage statistique : savoir classifier

Le but de l’apprentissage statistique est de construire un modèle permettant d’affecter de manière prédictive un individu statistique à une classe donnée : est-ce que tel étudiant est susceptible de valider son cours de microéconomie ? est-ce que telle personne fait partie des gens susceptibles de voter pour tel candidat ? De manière plus précise, quelle est la probabilité que cela arrive ?

Après avoir étudié des dizaines de milliers de cas, selon une méthode statistique choisie par le programmeur, le modèle « apprend » et ainsi « reconnaît » des cas similaires.  Développée depuis les années 1980, cette pratique est donc loin des fantasmes générés par le terme intelligence artificielle, bien qu’elle représente la grande majorité des utilisations lucratives, à l’image de celles des sociétés que nous avons rencontrées.

Le risque de la sur-personnalisation

La plateforme d’e-learning Coursera s’en sert ainsi pour déterminer les cours les plus adaptés à votre profil (après vous avoir demandé diverses informations), tandis que Critéo détermine, par votre historique et vos cookies de navigation, quelles sont les publicités qui sont les plus susceptibles de vous plaire sur internet. Enfin, Facebook se sert naturellement de ces techniques pour déterminer le contenu de notre fil d‘actualité.

Cette pratique pose une question très sérieuse, celle de la sur-personnalisation : que dire d’une société où chaque individu a accès en écrasante majorité à des contenus susceptibles de lui plaire ? D’un point de vue culturel, le « flow » de Deezer ou Spotify nous offre la musique que l’on connaît et que l’on aime, sans nécessairement valoriser l’ouverture. D’un point de vue politique, cela revient à se nourrir essentiellement d’opinions similaires aux siennes, à tel point que l’existence d’opinions contraires aux siennes apparaisse comme irréelle : « Comment est-il réellement possible de voter Donald Trump ? » se demandent encore bon nombre de démocrates !

Finalement, on comprend que la sur-personnalisation est un danger moins relatif à  la technologie elle-même  qu’à  l’utilisation  qu’on en a. La diversification du contenu proposé à un lecteur est tout aussi programmable que son uniformité. Comment alors contraindre les entreprises dont l’approche reste d’abord commerciale à développer une “éthique technologique” ? Si la réponse ne vient pas du politique, alors elle réside certainement dans une veille et une vigilance quotidienne du consommateur vis-à-vis de ces sociétés.

Une menace pour l’emploi et les intérêts publics ?  

La capacité qu’a cette technologie à provoquer une augmentation de la productivité est aujourd’hui débattue : Gregory Renard, fondateur de la société X-Brain, évoque par exemple une possibilité de multiplication par 10, voire 100, de la productivité moyenne des secteurs concernés – à remettre en perspective de la hausse de productivité moyenne de quelques pourcents par an dans les pays développés. Cette société développe par exemple une solution de reconnaissance vocale et de traitement automatisé des standards téléphoniques, en particulier à destination des hotlines après-ventes. L’objectif est clair : relocaliser les centrales téléphoniques, avec des employés qualifiés capables de gérer plusieurs dizaines d’appels en simultané grâce à la technologie.

Néanmoins, la vigilance n’est possible que si l’on a conscience d’être l’objet d’un programme d’intelligence artificielle. En particulier, qu’en est-il lorsque l’individu n’est plus ciblé en tant que consommateur mais en tant que citoyen ? Le machine learning peut en effet servir à des fins sociales à l’image du programme de Palantir permettant à partir de données collectées dans les centres hospitaliers d’optimiser, selon des critères sanitaires, le relogement des sans-abris sans que ces derniers n’en  soient informés. On substitue donc ici un système de décision qui relève initialement du politique par un outil technologique que seules les entreprises ont la capacité de développer. Cela amène donc la question de la politisation de ces entreprises, et de la nature des partenariats qu’elles établissent avec le secteur public, dont le nombre va a priori croître considérablement dans les années à venir.

Loin d’offrir la conscience aux machines et de précipiter l’humanité vers sa fin, le Machine Learning vise à établir, par l’apprentissage statistique, des modèles utiles à notre société dans les domaines allant de la médecine à l’économie. Pour autant, son potentiel de disruption politique, économique et sociétal réclame notre vigilance et notre apport démocratique : ne laissons pas l’évolution de ces technologies entre les mains des seuls experts. Démystifions, étudions, comprenons les enjeux : seulement alors nous pourrons pleinement profiter des merveilles que la technologie nous réserve.

À l’origine de cet article, il y a deux rédacteurs. Voici leur histoire.

Alex Sala : Originaire d’Auxerre, Alex détient une double licence Sciences Po/Paris 1 Sorbonne en mathématiques appliquées aux sciences sociales. Il effectue actuellement un Master 2 de Mathématiques financières à Paris VII avant de retourner à Sciences Po à la rentrée prochaine en Master 2 de finance et stratégie. Il est co-fondateur de Nexia BS, projet proposant une solution d’investissement basée sur la blockchain.

Alexandre de la Roche : Alexandre de la Roche est actuellement étudiant en double diplôme à Centrale-Supélec et à l’ESCP Europe. Passionné de musique et de nouvelles technologies, il est l’autre co-fondateur de Nexia BS.

À propos de la Learning Expedition : Le Centre pour l’Entrepreneuriat de Sciences Po apporte une expertise sur l’entrepreneuriat et l’innovation aux étudiants, aux start-ups et aux chercheurs.

Dans le cadre de leur cursus académique, la Learning Expedition dans la Silicon Valley est l’occasion pour ces étudiants et pour d’autres étudiants sélectionnés parmi les meilleures écoles scientifiques françaises, d’être immergés pendant 5 jours au cœur de l’innovation et d’apprendre auprès des entrepreneurs les plus inspirants.

Au cours des vacances de la Toussaint, plusieurs élèves se sont rendus en Californie dans le cadre d’une learning expedition organisée par le Centre pour l’Entrepreneuriat de Sciences Po Paris. À cette occasion, les participant.e.s ont découvert le monde si particulier de la Silicon Valley. Jusqu’au 14 décembre prochain, nous publierons chaque jeudi une chronique rédigée par eux, chronique au sujet de cette expérience aux multiples facettes. 

Épisode 1 : Quand l’individu veut rendre le monde meilleur

On n’en revenait pas, de pouvoir aller dans la Silicon Valley. De pouvoir visiter cette région mythique où sont nées les technologies qui font aujourd’hui notre quotidien. De pouvoir rencontrer les femmes et les hommes qui y participent chaque jour ; qui innovent, qui « disruptent » tous les marchés, qui inventent l’avenir… C’est en tout cas les préjugés qu’on en avait. Pour tout dire, on ne savait pas vraiment à quoi s’attendre tant les faits et les mythes s’entremêlent. Quelle réalité se cache sous nos smartphones et leurs applications ? Et sous cette réalité, quelle vision du monde ? Voilà ce que nous avons essayé de déceler…

Éloge de l’individu, apologie de l’échec

Du 28 octobre au 4 novembre, nous avons donc, grâce au Centre pour l’Entrepreneuriat de Sciences Po, sillonné la Valley à la rencontre  des acteurs qui donnent vie à l’entrepreneuriat californien : start-ups, incubateurs, venture capitalists, chercheurs en informatique ou en sciences sociales, grandes entreprises emblématiques… Des leaders quasi-messianiques aux geeks « hippies capitalistes », nous avons eu la chance d’avoir un plutôt bon aperçu de cet écosystème bouillonnant.

Ce qui nous a peut-être le plus marqué, c’est cet incessant éloge de l’individu. On connaissait les Américains individualistes, mais on ne s’attendait pas à tel choc culturel. L’individu qui peut tout ; l’individu qui décide de changer les choses, de relever des défis et de ne jamais se laisser abattre par l’échec — parce que l’échec est un droit, sinon un devoir. Là-bas, l’individu, c’est tout le monde et n’importe qui. Il semble suffire de ce moteur inépuisable qu’est l’optimisme californien pour réussir. Du chauffeur Uber jusqu’au cofondateur d’une start-up de plusieurs dizaines d’employés, tous partagent ce même maître-mot : faire de l’échec une expérience, se battre pour réussir, avoir un « impact ».

Ce que la Valley doit aux hippies

Cette vision de la toute-puissance de l’individu est héritée, entre autres, de la contre-culture des années 1960. San Francisco est à l’époque l’épicentre des mouvements hippies. Rejetant l’État et toute forme d’organisation hiérarchisée, ces mouvements contestataires ont vu dans le développement de l’informatique personnelle l’opportunité pour les individus de devenir plus puissants, plus libres. C’est en ce sens que la technologie augmente à proprement parler l’individu. Elle est perçue comme une extension du corps et de l’esprit, en étend les capacités, et permet à tout à chacun de se dépasser. On reconnaît ici les prémisses de certaines aspirations transhumanistes actuelles.

Et cet élément est essentiel. On comprend dès lors que l’individualisme, l’inébranlable croyance dans le progrès technologique, et l’esprit entrepreneurial sont en fait les trois piliers de la Silicon Valley. L’État n’a pas sa place dans ce schéma de pensée. Le politique non plus. Tout l’élan vital de cet écosystème se situe à un niveau micro-économique, à l’échelle de l’individu. C’est à lui d’être le moteur, l’artiste, le créateur de la société de demain. Mais est-ce vraiment une opportunité pour chacun ?

Des barrières invisibles passées sous silence

Si c’est ce que nous entendons à Palo Alto, Mountain View et à Menlo Park, ce discours prend une résonance très différente lorsque nous arpentons les rues des quartiers Est de San Francisco. Dès le premier jour, nous n’y avons croisé presque que des street people, ces sans-abris qui vivent, par milliers, dans une misère économique et psychologique visible au grand jour. Ces 7000 personnes vivant dans une pauvreté extrême sont la surface émergée d’un phénomène qui touche toute la Californie : près de deux personnes sur cinq y sont pauvres ou proches de la pauvreté. L’État possède aujourd’hui le plus haut taux de pauvreté des États-Unis, particulièrement élevé chez les Latinos, mais aussi chez les autres minorités ethniques…

Dans l’État le plus riche des États-Unis, ces inégalités flagrantes sont rarement citées par les chantres de l’esprit start-up, qui y voient tout au plus un « problème » qu’ils espèrent voir un jour résolu, au même titre que les défauts de la reconnaissance vocale ou le chargement filaire. Le risque est un luxe que seuls certains peuvent s’offrir ; et c’est avec tristesse que l’on découvre que, malgré l’ouverture et la tolérance des Californiens pour les “talents” internationaux, les conseils d’administration des grandes entreprises, mais aussi les rangs des entrepreneurs, et notamment de ceux qui parviennent à lever des fonds, restent désespérément très blancs et très masculins.

Un rapport conflictuel et singulier au politique

L’on connaît les réticences des GAFA — Google, Apple, Facebook, Amazon — à payer leurs impôts. L’on connaît aussi leur importance grandissante dans le champ démocratique, des élections américaines au printemps arabe et en passant par le Brexit. Ce rapport ambigu au politique nous a été souligné par Fred Turner, professeur associé de sciences de la communication et d’histoire des médias à l’Université de Stanford, que nous avons eu la chance de rencontrer. Il nous a notamment mis en garde contre le pouvoir immense de Facebook, dont l’utilisation aux quatre coins du globe induit, contre toute attente, des mutations profondes des rapports entre individus et des manières de vivre en communauté.

En effet, l’idée de société, structurée par des institutions et des réglementations spécifiques, apparaît pour ces grandes entreprises comme un frein à leur expansion économique. Face à leur recherche de profit, la régulation par un État central est perçue comme une machine trop lourde qui priverait l’individu de ses libertés. En suivant cette optique, il faut libérer les individus de l’appareil étatique, les rassembler dans une vaste communauté globale hors de la société, et les laisser exprimer leur singularité propre par la poursuite de projets personnels. La sécurité, la justice, l’éducation, les hôpitaux, les routes sont autant de services qui pourraient un jour être assurés par des entreprises technologiques innovantes, rapides et plus efficaces que nos appareils régaliens. Tout ceci ne serait finalement qu’une question de temps.

Vers une remise en question du rôle de l’État ? 

Si les questions d’intérêt général sont perçues uniquement comme des systèmes d’équations  à n inconnues qu’il suffit de résoudre, alors l’État ne peut apparaître que comme une réponse parmi d’autres, engagé dans une concurrence avec d’autres acteurs plus ou moins performants, sans légitimité particulière. Ce système concurrentiel laisse des questions en suspens : selon quels critères mesurer l’efficacité des réponses proposées ? À qui revient les missions d’arbitrage, de régulation, de définition commune de ces enjeux  ?  

Le projet politique d’une société est dès lors considéré à travers le prisme de la recherche d’une solution technologique et de la maximisation du profit ; ce changement de paradigme est lourd de conséquences. Il apparaît en effet que cette élite d’ingénieurs entièrement consacrée à résoudre les problèmes de l’humanité — au nombre desquels certains comptent la mort — ne peut qu’œuvrer pour notre bien. Dans ce monde merveilleux où il n’y a que des problèmes quantifiables et des ingénieurs hyper-motivés pour les résoudre, l’État, la démocratie, le Congrès et le FBI sont des instances limitantes, qui agissent contre les droits de l’individu et cherchent à entraver sa toute-puissance.

En fin de compte, c’est un vaste projet de société, ou plutôt de non-société, qui s’est révélé à nous au travers de ces rencontres et découvertes. Et ce que nous retenons de notre séjour, c’est que le “miracle” économique de la Silicon Valley ne peut être compris sans cette conception spécifique et proprement américaine de l’individu, et du politique qui en découle. À méditer quant aux conditions de transposabilité du modèle dans un environnement socio-politique qui lui serait étranger…

À l’origine de cet article, il y a un rédacteur et une rédactrice. Voici leur histoire. 

Thomas Sentis : Élève à l’École polytechnique, Thomas s’oriente vers une spécialisation en machine learning et computer vision. Il suit en parallèle une formation en philosophie et s’intéresse particulièrement aux liens entre sciences et société.

Yaël Benayoun : Jeune diplômée du master recherche en Théorie Politique de l’Ecole doctorale de Sciences Po, Yaël est également la fondatrice du Mouton Numérique, association qui se donne pour objectif d’interroger notre rapport au numérique et aux nouvelles technologies par l’organisation de débats et autres événements culturels ouverts et accessibles à tous.

À propos de la Learning Expedition : Le Centre pour l’Entrepreneuriat de Sciences Po apporte une expertise sur l’entrepreneuriat et l’innovation aux étudiants, aux start-ups et aux chercheurs.

Dans le cadre de leur cursus académique, la Learning Expedition dans la Silicon Valley est l’occasion pour ces étudiants et pour d’autres étudiants sélectionnés parmi les meilleures écoles scientifiques françaises, d’être immergés pendant 5 jours au cœur de l’innovation et d’apprendre auprès des entrepreneurs les plus inspirants.