La science-fiction, un imaginaire utile à l’élaboration d’une éthique de l’innovation : le cas du métavers Science fiction, an imaginary useful for the development of an ethics of innovation: the case of the metaverse

Introduction

Dans un premier temps, la science-fiction sera présentée comme un imaginaire pertinent pour envisager les questions d’éthiques relatives aux technologies du virtuel et au métavers. Puis, la dimension éthique d’une quinzaine d’œuvres célèbres sera présentée pour envisager comment cette culture de l’imaginaire a abordé les limites du métavers. Par ailleurs, la question de l’impact de ces représentations sur les processus d’innovation sera posée afin de déterminer si l’éthique est un frein ou une limite à l’émergence de nouvelles technologies numériques. Enfin, l’éthique hacker sera considérée comme viable pour concevoir la future simulation, avant que l’hypothèse d’un système de contrôle des comportements et des discours au sein du monde virtuel soit envisagée.

1. La science-fiction, vectrice de questionnements éthiques sur le numérique

Bukatman (1992) fut un des premiers théoriciens à s’intéresser à l’apport de la science-fiction, notamment cyberpunk, à la construction des représentations sociales relatives à la réalité virtuelle. À travers l’analyse des principales œuvres de la cyberculture, il affirmait que la science-fiction constituait un paraspace duquel émergeaient des représentations paradoxales, notamment du futur. Il énonçait aussi la notion de schizotechnologie pour évoquer ces films et romans traitant de la mutation des sociétés sous l’impact des technologies du virtuel. Cette approche était par ailleurs déjà prônée par Baudrillard (1981) et son concept d’hyperréalité, dont les œuvres de science-fiction comme Matrix (1999) se sont inspirées par la suite (son livre Simulacres et Simulation est d’ailleurs présenté dans une scène de la trilogie). La notion de schizoculture, inspirée par les travaux de Deleuze et Guattari (1972) vit par la suite le jour dans la cyberculture, pour illustrer les mutations identitaires induites par les évolutions dans le secteur des TIC.

De nombreux auteurs ont évoqué l’intérêt de la science-fiction pour aborder les questions éthiques. Rumpala (2018) a par exemple consacré un livre à l’apport de cet imaginaire à la réflexion éthique dans le secteur de l’écologie, avant de renouveler l’expérience avec une analyse du courant cyberpunk quelques années plus tard (Rumpala, 2021). Il se demandait dans ce dernier opus si ces œuvres ne constituaient pas une utopie des riches et une dystopie des pauvres. Les analyses de cet auteur s’appuyaient sur les travaux d’Hans Jonas (1998) qui réfléchissait à la création d’une éthique du futur. Frank Aggeri (2023), dans son livre de réflexion sur l’éthique de l’innovation, s’interroge d’ailleurs sur la posture à adopter face à l’injonction à innover sans cesse davantage. Il s’appuie sur les travaux d’Hans Jonas et son essai Le Principe responsabilité. Une éthique pour la civilisation technologique (1990), pour prôner la mise en œuvre d’un principe de responsabilité projective, impliquant d’inscrire la réflexion sur l’action dans une perspective orientée vers le futur, et non plus sur le passé.

Ainsi, il est de plus en plus fréquent de constater que des chercheurs et enseignants revendiquent l’usage de films ou de séries de science-fiction pour éveiller leurs étudiants à une éthique de l’innovation. C’est notamment le cas de Chouteau et Nguyen (2023), qui décrivent de quelle manière elles utilisent des séries dans leur école pour sensibiliser les futurs ingénieurs aux enjeux politiques et sociaux de leurs futures activités professionnelles.

Hottois (2017) a aussi affirmé que la science-fiction se trouvait à l’avant-garde de questionnements éthiques dans le domaine des technosciences. Cet imaginaire a ainsi fortement influencé l’idéologie transhumaniste qui révolutionne de nombreux secteurs économiques en proposant des innovations radicales, notamment dans le domaine du numérique. La science-fiction a une double fonction dans ce contexte de recherche et développement en permanente ébullition. Dans un premier temps, elle inspire les chercheurs à travers des technologies imaginaires qu’ils cherchent à réaliser grâce à leurs connaissances. Par exemple, le concept de cyberespace, imaginé par William Gibson dans Neuromancien (1984) a servi de modèle à une génération d’informaticiens pour développer Internet (Musso, 2002). Dans un deuxième temps, elle constitue aussi un frein potentiel à l’innovation en posant des questions éthiques susceptibles de bloquer certaines recherches, par exemple relatives aux implications écologiques et sociales d’une nouvelle technologie. Ainsi, le métavers sera-t-il un outil de libération ou d’aliénation, polluera-t-il plus qu’il ne permettra d’économies d’énergies ? La R&D est orientée par de telles questions éthiques impliquant ponctuellement de réorienter les stratégies et projets de recherche. Tabouy (2023), a posé la question ouvertement dans un article : L’éthique, frein aux innovations et interfaces numériques ?

Ainsi, la science-fiction a anticipé de nombreuses innovations depuis son invention au dix-neuvième siècle. Dans le secteur du numérique, il est possible d’évoquer les célèbres cas du métavers imaginé par Neal Stephenson dans Le Samourai Virtuel (1992), ou encore le neural lace conçu par Iain Banks dans la série de La culture (1987-2012). Toutes ces œuvres ont inspiré les innovateurs, qui ont cherché à réaliser ces visions, au point de bouleverser radicalement les modes de vie et les interactions de millions d’humains (Michaud, 2022). Les critiques ont souvent souligné la dimension dystopique du roman de Stephenson au moment de l’annonce de Mark Zuckerberg de sa volonté de réaliser le métavers. L’auteur de science-fiction n’est toutefois pas hostile à l’apparition d’une telle technologie, puisqu’il a lancé son propre projet, Lamina 1. Ainsi, la science-fiction propose bien souvent des fictions qui fascinent les innovateurs. Toutefois, la réflexion éthique qui émane de ces récits peut aussi avoir un effet bloquant sur certains investisseurs ou utilisateurs potentiels, au point de provoquer des fuites de capitaux, ou la désaffection de consommateurs. Il convient de se demander si les discours de la science-fiction, et notamment les réflexions éthiques sous-jacentes qu’ils véhiculent, ne peuvent pas expliquer en partie un ralentissement momentané de l’engouement pour le métavers. La courbe de Gartner montre ainsi qu’après une période d’enthousiasme lors de laquelle le terme est devenu un buzzword et où une ruée vers les territoires virtuels toucha de nombreuses entreprises, l’explosion de la bulle ne tarda pas, le projet étant rattrapé par un imaginaire hostile et négatif.

Afin de mieux comprendre ce phénomène, que nous attribuons à l’apparition de réflexions éthiques sur le devenir de cette technologie, il convient de s’intéresser à l’imaginaire science-fictionnel, dont nous avons établi qu’il se situait à l’avant-garde de la réflexion éthique de l’idéologie transhumaniste.

2. Typologie des questions éthiques sur le métavers dans la science-fiction

Cet article s’appuie sur un tableau extrayant les questions éthiques d’une quinzaine de films et romans mettant en scène des technologies du virtuel. Le but de cette approche est d’illustrer la théorie selon laquelle la science-fiction est un puissant vecteur de réflexions sur l’éthique du numérique. Ce corpus est constitué d’œuvres particulièrement reconnues par la critique pour leur influence sur l’imaginaire collectif. Les romans et films retenus pour cet article ont pour la plupart été extraits d’une enquête plus large publiée sous le titre La réalité virtuelle, de la science-fiction à l’innovation (L’Harmattan, 2018), qui regroupe une cinquantaine d’œuvres traitant du virtuel. Les fictions figurant dans le tableau ci-dessous font ressortir des questions éthiques particulièrement saillantes et diverses. Le choix a été fait d’éviter de citer plusieurs récits développant une interrogation similaire. Il aurait aussi été possible d’ajouter des séries télévisées comme Black Mirror, particulièrement intéressante sur le thème abordé. Toutefois, la taille limitée de l’article impliquait d’établir un échantillon restrictif excluant les productions télévisées. Une autre étude pourra intégrer d’autres œuvres à l’avenir. Si la plupart des fictions retenues ont rencontré des succès publics importants, d’autres furent plus confidentielles, mais demeurent toutefois des représentations du futur métavers incontournables.

Figure 1. Quelques questions éthiques soulevées par 15 œuvres de science-fiction traitant du virtuel.

Il apparait donc clairement que les sujets éthiques ressortent de la plupart de ces fictions, dont certaines ont eu un impact sur les représentations collectives du futur métavers. On distingue quelques thèmes dominants dans la réflexion sur l’avenir de cette technologie :

1. L’éthique de la vie artificielle : Quels droits pour les avatars, et les créatures artificielles peuplant le monde virtuel ?

2. L’éthique sur la politique du métavers : Qui contrôle la simulation ? La résistance à cette technologie est-elle légitime ?

3. L’éthique des usages de la réalité virtuelle : Son utilisation militaire, capitaliste ou pédagogique, par exemple pose de nombreuses questions.

Les technologies du virtuel apparaissent bien souvent comme utiles et comme le futur d’Internet, des jeux vidéo, et des TIC (Arnaldi et al., 2018). Toutefois, leur utilisation par des individus, des entreprises ou des organisations malveillantes est bien souvent au cœur de l’intrigue des films étudiés. Les entités qui contrôlent ces technologies sont fréquemment responsables de leur mauvaise utilisation. Ces films poussent les spectateurs à s’interroger sur la posture à adopter vis-à-vis des technologies du virtuel. Pour l’intérêt de la fiction et de l’intrigue, les scénaristes proposent bien souvent des cas d’instrumentalisations particulièrement perverses des casques ou des modes de connexion aux simulations, afin de montrer des exemples négatifs, permettant de réfléchir aux dérives possibles liées à la commercialisation de ces machines, qui étaient jusqu’à la date de diffusion de ces films, essentiellement des prototypes ou des projets de R&D tout juste mis en vente. Ces fictions traduisent donc les espoirs et angoisses liées à la recherche technoscientifique dans le secteur de la réalité virtuelle. Les questions éthiques qui en émergent, très en amont de la commercialisation de ces produits, sont utiles à la formation de la conception collective du futur de cette technologie, et permettent de fixer des limites à la R&D, la rendant plus vertueuse et conforme à un capitalisme au service de l’humain et du développement durable.

3. Impact de ces représentations sur l’éthique des acteurs du processus d’innovation.

Ces films et romans soulèvent notamment la question de la violence dans les simulations. Un grand nombre de récits reposent sur des combats, provoquant la disparition de certains acteurs. Parmi les innombrables questions éthiques soulevées par les films de science-fiction, une nous apparait particulièrement importante pour orienter l’avenir du métavers : dans quelle mesure est-il acceptable de tolérer la violence dans les mondes virtuels ? La question de la violence des jeux vidéo se pose régulièrement, notamment à l’occasion de massacres ou d’émeutes urbaines. Ainsi, Bill Clinton, Jair Bolsonaro ou plus récemment Emmanuel Macron lors des émeutes en France de juillet 2023, ont attribué une responsabilité aux jeux vidéo violents dans le déclenchement et l’ampleur de ces phénomènes politiques, voire criminels. Young (2015) a montré qu’il n’existait pas de consensus à propos de la violence dans les jeux vidéo. La plupart des réalisateurs des films de science-fiction étudiés ont mis en scène des applications de réalité virtuelle présentant cette technologie comme un moyen d’explorer des pratiques vidéoludiques radicales.

Il convient toutefois de s’interroger sur le caractère rebutant de représentations du virtuel violentes, voire horrifiques, sur la psychologie des marchés de consommateurs à la recherche d’innovations bienfaitrices. De même, les technologies de ces films peuvent avoir provoqué une forme de technophobie à l’encontre du virtuel. On trouve de nombreuses scènes, où les corps des héros sont mutilés (Matrix, Existenz, par exemple) pour permettre la neuroconnexion. Les consommateurs ont assimilé la vision d’une technologie particulièrement intrusive, source de malversations et de luttes de pouvoir infernales. Ainsi, la science-fiction a fait émerger une réflexion éthique sur le devenir des métavers, qui a alimenté de nombreux discours critiques au moment de la remise en cause de la hype suivant l’annonce du projet de Mark Zuckerberg de réaliser cette technologie. Une large audience a assimilé ces imaginaires négatifs pendant des années, et en a déduit massivement qu’il était plus sage éthiquement de rejeter le virtuel.

Toutefois, ces films et romans pourraient avoir une utilité dans l’élaboration d’un métavers plus inclusif, moins violent que les réseaux sociaux actuels, et plus tolérant. Ces fictions ont en effet une fonction essentiellement cathartique. En générant des représentations de futurs violents ou dystopiques mettant en scène des technologies du virtuel, elles provoquèrent en réaction une réflexion éthique sur leur devenir. Bidault-Waddington (2023), dans son analyse 5F (5 focales) du film Ready Player One, en a déduit de nombreuses réflexions sur la nécessité d’orienter la création des métavers vers une forme plus durable, respectueuse des écosystèmes et du lien social. Si elle n’estime pas que ces productions artistiques jouent un rôle décisif dans les processus d’innovation, occupant essentiellement une place de divertissement, elle leur concède une fonction de sagesse dans les sociétés industrielles. Un film comme Ready Player One (2018), réalisé par Steven Spielberg à partir du roman d’Ernest Cline, a en effet permis l’émergence d’une technophilie assumée chez certains spectateurs et d’une réflexion éthique d’autres, plus critiques de cette technologie permettant l’évasion des individus d’un réel dystopique.

Les œuvres étudiées en partie 2 ont alimenté le grand public en représentations qui ont généré la fascination de certains esprits capitalistes, qui ont vu dans la réalisation du métavers un moyen de s’enrichir en apportant un progrès à l’humanité. D’autres, en revanche, y ont vu une menace pour la société et les libertés individuelles. Anshari et al. (2022) appellent à la création d’une responsabilité éthique dans le développement des business modèles visant à créer le métavers. Une telle étude va dans le sens d’un monde virtuel plus inclusif, moins violent que les univers présentés dans les films et romans de science-fiction, et que dans les jeux vidéo actuels, dont certains peuvent générer des comportements déviants. Il est notoire que le capitalisme est doté d’un système de filtrage éthique lui permettant de tirer des imaginaires les éléments performatifs les plus utiles à l’innovation, et de les associer à un discours stratégique conforme à la morale.

4. Quelle éthique pour le métavers ?

Si l’éthique protestante fut désignée par Max Weber (1905) comme le moteur du capitalisme, appelant notamment les fidèles à vivre pour travailler et à prouver leur valeur à Dieu par leur activité professionnelle, elle est remise en cause par l’éthique hacker. Cette dernière, théorisée notamment par Pekka Himanen (2001), prône une horizontalisation des rapports de production, et une participation à l’économie motivée par la passion et non plus par des contraintes reposant notamment sur le salariat. Le père jésuite Antonio Spadaro (2011) estime que l’éthique catholique est compatible avec l’éthique hacker, allant même jusqu’à affirmer que Dieu est un hacker. Ce terme ne désigne pas des cybercriminels, mais des personnes relevant des défis intellectuels, vivant de façon créative. Cette conception s’oppose aux notions de contrôle, de compétition et de propriété privée, plus spécifiques à l’éthique protestante et à l’esprit du capitalisme (Himanen, 2001). Le travail ne doit plus être perçu comme une malédiction biblique, mais comme une participation joyeuse à la vie du monde. Ainsi, l’éthique hacker fut un des moteurs du développement des TIC depuis les années 1960. Il convient de l’entretenir et de la réactiver pour créer le métavers, afin d’éviter que ce monde se transforme en « enfer virtuel ». La science-fiction a contribué à poser des questions éthiques relatives au bon usage des mondes simulés. Rejetant la domination des machines sur l’humanité (Matrix), celle du capitalisme sauvage sur le métavers (Ready Player One), du système militaro-industriel sur les utilisateurs (Next Level), critiquant l’aliénation causée par ces technologies (Virtual Revolution, Inner City), voire le système carcéral qui pourrait être la conséquence de leur diffusion massive (Le Successeur de Pierre, de Jean-Michel Truong, 1999), la science-fiction s’est interrogée sur la dimension vertueuse ou liberticide de la réalité virtuelle. En imaginant bien souvent le pire, elle a poussé les spectateurs à se demander dans quelles conditions cette technologie pourrait apporter un plus grand bonheur à l’humanité, ou au contraire provoquer son enfermement dans un monde totalitaire infernal. Les récits dystopiques réactivent la mémoire des grandes dictatures et incitent à une réflexion sur les dérives potentielles de ces technologies si elles étaient manipulées par des personnalités autoritaires.

5. Vers une IA permettant de faire respecter l’éthique du métavers ?

La science-fiction mène donc à une éthique politique du métavers. Quelle société numérique sera créée par cette technologie ? Les utilisateurs seront-ils plus libres, en pouvant choisir leur identité selon leur bon vouloir ? Au contraire, seront-ils victimes de plus de cyberharcèlement, comme c’est le cas de nombreux adeptes de jeux vidéo ou de réseaux sociaux, obligés à se travestir pour ne plus subir de brimades et d’injustices ? Il apparait d’ores et déjà nécessaire de réguler la création de contenus au sein du métavers. Si le spectre de discours autorisés à circuler doit bien entendu être le plus large possible, il convient d’envisager la création d’une intelligence artificielle capable de contrôler tous les discours produits et diffusés dans la simulation. Balbo et al. (2018) affirment que : « En se rapportant aux travaux des développeurs en Intelligence Artificielle, il arrive toujours un moment où l’ingénieur doit en effet traduire l’éthique par une formule mathématique à intégrer dans un algorithme », ce qui légitime un tel projet pour le métavers. Les propriétaires des avatars seraient responsables de leurs propos et potentiellement sanctionnables en cas de discours violents, sexistes, contraires à la morale. Cette idée d’un contrôle des comportements virtuels peut effrayer les acteurs adeptes de discours radicaux. Toutefois, elle apparait légitime pour permettre l’accès du plus grand nombre à un espace virtuel pacifié. L’idée d’un contrôle par un ordinateur ou une intelligence artificielle n’est pas nouvelle. Déjà, en 1953, Kendall Foster Crossen mentionnait un ordinateur d’évaluation de la moralité dans une nouvelle de science-fiction. Voici l’extrait en question :

La machine avait eu pour vertu de pacifier la société, dans laquelle plus aucun crime n’était commis. La science-fiction a parfois montré des mondes virtuels édéniques, dans lesquels les humains vivraient une vie de bonheur parfait, sans violence. Il convient de mettre en œuvre une éthique de la discussion au sens d’Habermas (1992) (Jaffro, 2001) pour le métavers, ainsi qu’une technologie permettant de l’appliquer efficacement. Ainsi, un dialogue fructueux pourrait s’établir dans le monde virtuel afin d’établir les normes d’une manière optimale. À l’instar de la censure des mots vulgaires ou des images à caractère sexuel sur certains réseaux sociaux, le métavers pourrait bénéficier d’une IA chargée d’analyser tous les discours et de sanctionner, voire d’exclure, ceux ne correspondant pas à l’éthique de la discussion. Cette dernière suggère notamment que les normes ne doivent pas découler d’un principe d’autorité, mais de la discussion, qui pourrait prendre une forme inédite dans la mesure où la simulation, assistée par un système de traduction universelle, pourrait interconnecter des milliards d’humains en leur donnant l’occasion de communiquer pratiquement sans entraves. Cette situation inédite pourrait nécessiter l’application d’une éthique de la discussion, afin d’éviter des conflits dans l’affirmation normative tendant vers l’universalité.

Subramanian (2011) a posé la question de la légitimité de la censure sur Internet. Est-il notamment légitime de condamner moralement des images pornographiques ou des discours haineux, contraires aux bonnes mœurs et à la démocratie ? Faut-il, comme le suggère Elon Musk, autoriser l’expression de tous les discours, dans le respect de la loi de chaque État, sous peine d’aller à l’encontre de la liberté d’expression ? Il semble préférable d’orienter les futurs métanautes vers une discussion respectueuse afin de faire du métavers une agora virtuelle, conforme aux idées des pères fondateurs d’Internet (Rheingold, 1993).

La science-fiction a envisagé un nombre de questions éthiques importantes pour le devenir de cette technologie, sans en avoir pour autant abordé l’intégralité de la complexité. L’idée d’une IA omnisciente, chargée de contrôler l’intégralité des discours diffusés dans le métavers, pourrait apparaitre comme le point de départ d’une histoire de science-fiction dystopique. Elle a le mérite d’interroger les possibilités techniques d’une telle innovation. Cette dernière doit-elle permettre l’expression de toutes les idées, au risque de mener à l’instauration de la loi du plus fort, de l’état de guerre perpétuelle, en faisant un monde hobbesien ? Nous pensons au contraire que l’éthique de la discussion devra s’imposer dans cette simulation, pour permettre à tous de s’exprimer librement. Si les plus faibles n’ont pas l’opportunité d’évoluer pacifiquement dans un métavers régi par des dominants adeptes de violence, ce monde sombrera soit dans l’anarchie, soit dans la dictature, en tout cas, dans une forme d’extrémisme politique digne des pires dystopies de science-fiction. Cela aura aussi un impact sur le monde réel. Nous ne pourrons pas dire que les réalisateurs ou auteurs de ces œuvres imaginaires ne nous auront pas prévenus.

Conclusion

Il convient dès à présent d’envisager une régulation des échanges discursifs dans les mondes virtuels afin d’éviter les dérives liées au harcèlement par exemple dans les réseaux sociaux (Carayol et Laborde, 2021) ou à la violence excessive de certains jeux vidéo. La science-fiction a pour fonction d’anticiper et d’accentuer volontairement les conséquences d’une utilisation négative ou perverse de ces technologies. Il est donc vivement recommandé aux créateurs du métavers de porter un regard attentif à ces œuvres culturelles afin d’en saisir les messages et de créer un monde plus éthique. Le film Free Guy, par exemple, met en scène un personnage non joueur (PNJ) dans un jeu vidéo à la frontière entre GTA et Fortnite, où la violence est omniprésente. Après une révolution, ces entités artificielles devenues conscientes finissent par migrer dans un monde plus utopique et moins agressif. Ce film pose des questions éthiques intéressantes. Le métavers pourrait suivre le même processus, en excluant la violence des programmes qui y seraient proposés. De même qu’il est légitime de se demander si l’usage des armes à feu dans de multiples films et séries crée un climat propice à la criminalité dans la société, la question de l’exemplarité des comportements des avatars mérite d’être posée.

Une éthique normative est donc souhaitable pour créer cette technologie, afin de développer un monde plus vertueux. En un sens, l’éthique est dotée d’une dimension utopique, dans la mesure où elle contribue à définir ce qui est bon pour la société. Ainsi, il est légitime de se pencher sur les récits de science-fiction, qui posent et anticipent les réflexions qui influencent les acteurs des processus d’innovation. Une éthique du futur métavers doit donc être élaborée afin d’éviter l’apparition de comportements décadents ou violents au nom de l’expression d’une liberté radicale, voire excessive.