Dans son ouvrage Remplacer l’Humain critique de l’automatisation de la société, Nicholas Carr nous invite à questionner le rôle de l’homme au sein des nouvelles technologies. En effet, celui-ci semble être de moins en moins prépondérant mais davantage accessoire dans une société où les machines automatisées, programmées à grand renfort d’algorithmes surpuissants rejette l’être humain à la périphérie de lui-même et de son potentiel, autrement dit de ses capacités de /faire/. L’homme est amené à ne plus faire ou à faire de moins en moins. Et c’est bien cela que pointe Nicholas Carr : le fait que l’humain soit progressivement en train de se faire remplacer, qu’il ne puisse plus exercer ni son savoir-faire ni sa créativité l’invite à demeurer l’impassible spectateur d’une automatisation qui le dépasse par sa rapidité, son importante productivité et sa prétendue fiabilité.
Nicholas Carr, à juste titre, nous invite à dépasser la vision technocentriste qui considère que les nouvelles technologies ont toutes les vertus et que l’homme, a contrario, est un condensé d’imperfections. Au travers de divers exemples, il démontre que c’est précisément l’automatisation qui tend à rendre l’homme imparfait. Selon lui, en l’utilisant à mauvais escient, l’homme se détériore en perdant notamment conscience de son environnement immédiat, et pire encore, l’essence même de son travail.
Cette « essence » se disperse dans les logiciels qu’utilisent de nombreuses professions. Les médecins, les avocats, les architectes, les aviateurs, les ouvriers des usines, les photographes… Tous voient leur fonction se réduire à celle d’un « pousse-boutons », ⎯ pour reprendre le terme de l’auteur ⎯ d’un serviteur plutôt que d’un maître, d’un passager plutôt que d’un conducteur. La société assiste ainsi à une véritable mutation où l’humain n’est plus au premier plan mais bel et bien au second, dans les coulisses. L’automatisation tient, quant à elle, tout le devant de la scène, elle trône, s’impose, se répand, s’utilise abondamment. Quand Nicholas Carr asserte que les hommes en deviennent « dépendants », il tend à assimiler l’automatisation à une drogue dont on ne peut plus se passer tant elle nous apporte du semblant de bien-être et de la satisfaction, tant elle nous simplifie la vie en nous évitant des frictions et des efforts.
L’automatisation serait donc là et nous ne pourrions plus faire sans ? Nous sommes en droit de nous le demander… Nicholas Carr apporte néanmoins une prémisse de réponse dans son ouvrage, en proposant de revoir nos attitudes. Il cite deux exemples particulièrement intéressants, étant ceux de l’architecte et du photographe. Chacun d’eux peut utiliser, s’il le souhaite, les logiciels. C’est-à-dire la conception assistée par ordinateur (CAO) pour l’architecte et des logiciels de traitement de photos pour le photographe. Mais ils peuvent aussi ⎯ et c’est possible ⎯ apprendre à ne plus se servir ou à faire usage à bon escient, en utilisant donc ces outils techniques comme un moyen, une aide, et non pas comme une fin en soi.
De même, il propose de replacer l’homme au premier plan, que celui-ci ne soit plus l’esclave des appareils numériques, mais qu’il reprenne contrôle de ses capacités, et qu’il cesse d’accorder un primat trop conséquent aux nouvelles technologies. Car même si l’être humain n’est pas invincible, l’automatisation des machines ne l’est pas non plus. D’autant plus que celle-ci pose bon nombre de problématiques éthiques que nous ne sommes pas en mesure de régler.
Le fait que l’auteur évoque la notion de « conscience morale » paraît ainsi tout à fait justifié, car il est bien beau de construire des machines qui vont faire à notre place et nous laisser dans l’oisiveté et la précarité la plus totale, mais qu’en est-il des responsabilités qui sont en jeu, si tant est que nous prenions le cas d’une voiture que nous ne conduirons même plus ou des drones qui feront la guerre à la place de vrais soldats, ou des robots-tondeuses qui détruiront la biodiversité sans même que personne ne s’en aperçoive ?
La faute à qui ? Pourrons-nous vraiment mettre la responsabilité sur les algorithmes alors qu’ils ne sont que notre propre création ? Ou en viendrons-nous réellement à les considérer comme des humains à part entière ? La notion de « conscience morale » paraît, dans ce cadre, essentielle à intégrer au débat sur l’automatisation. Cependant, même si nous parvenons un jour à pourvoir les machines automatisées d’une conscience et d’une propension à l’affect, la véritable épreuve sera de savoir si nous souhaitons vivre dans un monde virtuel, où la sensibilité s’amenuise et où la matière se désincarne.
C’est, il nous semble, la question à se poser après la lecture de ce livre. Savoir si la société, d’une certaine manière, ne ferait pas fausse route. Savoir si ce qu’elle prend pour un bien ne serait finalement pas un mal insidieux allant la gangréner peu à peu. Savoir si, en fin de compte, les nouvelles technologies participeront à notre bien-être, à notre épanouissement personnel aussi bien que collectif. Car l’enjeu est là pour l’avenir : ou bien s’ouvrir au monde, aux échanges, à l’apprentissage, ou alors laisser faire les machines, se replier derrière un écran et faire comme si ce que l’on vivait était vrai.