Le documentaire de Sundance Ghost in the Machine affirme audacieusement que la quête de l’intelligence artificielle, et la Silicon Valley elle-même, trouvent leurs racines dans l’eugénisme.
La réalisatrice Valerie Veatch fait valoir que l’essor du techno-fascisme incarné par des figures comme Elon Musk et Peter Thiel est une caractéristique, et non un bug. Cela peut sembler hyperbolique, mais Ghost in the Machine, qui est construit autour d’entretiens avec des philosophes, des chercheurs en IA, des historiens et des informaticiens, ne laisse guère de place au doute.
Si vous avez suivi l’ascension fulgurante de l’IA, ou la Silicon Valley en général, la déconstruction méthodique de la technologie opérée par Veatch n’apporte pas grand-chose de nouveau.
Le film commence par l’échec cuisant du chatbot Tay de Microsoft, qui n’a pas tardé à devenir un suprémaciste blanc fan d’Hitler. Il revoit les impacts environnementaux des centres de données dédiés à l’IA, ainsi que les manières dont les entreprises technologiques ont eu recours à des travailleurs faiblement rémunérés originaires d’Afrique et d’ailleurs pour améliorer leurs algorithmes.
Mais j’ai aussi été surpris d’apprendre que nous pouvons retracer l’impact de l’eugénisme dans la tech jusqu’à Karl Pearson, le mathématicien qui a initié le domaine des statistiques et qui a passé sa vie à tenter de quantifier les différences entre les races. (Devine pour qui il pensait être supérieur.) Son héritage a été poursuivi par William Shockley, l’un des co-créateurs du transistor, un suprémaciste blanc avoué qui a passé ses dernières années à promouvoir (aujourd’hui réfutées) des théories sur le QI et les différences raciales.
En tant que professeur d’ingénierie à Stanford, Shockley a instauré une culture qui privilégiait les hommes blancs au détriment des femmes et des minorités, ce qui a finalement façonné la Silicon Valley telle qu’elle se présente aujourd’hui. Sa façon de penser aurait pu influencer John McCarthy, le chercheur de Stanford qui a inventé le terme « intelligence artificielle » en 1955,
Avec de telles origines, Elon Musk — connu pour répandre des propos bigots en ligne, entretenir un environnement de travail supposément raciste chez Tesla et lancer occasionnellement quelques salut nazi — ressemble moins à une anomalie qu’à une partie d’un schéma.
Ghost in the Machine pose une question simple : comment pouvons-nous faire confiance à des hommes comme celui-ci (et ce sont presque toujours des hommes qui ressemblent à Musk) pour notre avenir ?
À travers ses nombreuses interviews, qui réunissent des personnalités comme la chercheuse en IA Dr. Emily Bender, l’historienne Becca Lewis et le théoricien des médias Douglass Rushkoff, Ghost in the Machine présente l’ascension de l’IA comme un projet fasciste visant à dénigrer les humains et à établir l’élite technologique comme nos dirigeants de facto.
Étant donné que nos vies sont déjà dominées par des gadgets et des réseaux sociaux provenant d’entreprises qui ont mis en avant l’engagement addictif au détriment de la sécurité des utilisateurs, il est facile d’imaginer que l’histoire se répète avec l’IA.
Ghost in the Machine n’offre aucune place à l’examen des avantages potentiels de l’IA, ce qui pourrait amener les partisans de la technologie à le rejeter comme un coup médiatique.
Mais nous sommes actuellement au sommet du cycle d’engouement autour de l’IA, après que les géants de la tech ont investi des centaines de milliards de dollars dans cette technologie, et après des années durant lesquelles ils l’ont imposée sans démontrer pourquoi elle est réellement utile à un grand nombre de personnes.
Ghost in the Machine est disponible à visionner sur le site Web et les applications de streaming du Sundance Film Festival à partir d’aujourd’hui et jusqu’à la fin du dimanche 1er février.
