Technologies : machines humaines, trop humaines ?

Les artefacts et les outils ont toujours accompagné l’humanité, ils font partie de sa signature dans son environnement, en quelque sorte de sa nature. À partir du XIX^e siècle, les sociétés occidentales sont marquées par un mouvement de prolifération, de technologisation et d’automatisation des objets. Ce mouvement s’est nettement accentué au XX^e siècle sous l’effet des avancées, de la diffusion et de la marchandisation de la science, qui se sont traduites par de multiples applications technologiques. Ces dernières décennies, l’informatisation, l’accélération de l’innovation et la démocratisation croissante des objets technologiques ont rendu les machines incontournables aussi dans la vie quotidienne. Plus récemment encore, grâce aux développements de l’intelligence artificielle, les machines deviennent plus autonomes et interactives ; elles peuvent accompagner les individus, interagir avec eux, voire les remplacer.

De fait, les algorithmes et l’intelligence artificielle transforment les jeux de pouvoir en devenant des outils d’aide à la décision pour les acteurs publics et privés. Il en résulte une tension majeure entre, d’un côté, leur promesse d’une facilitation et d’une optimisation de la gestion du fait social et, de l’autre, le risque de rendre les sociétés dépendantes des systèmes algorithmiques. À mesure qu’ils utilisent des algorithmes, les décideurs prennent en effet conscience de leurs biais et du fait qu’une machine n’est jamais neutre puisque ses décisions résulteront directement des caractéristiques de sa programmation, de celles de ses concepteurs, du type de données sur lesquelles elle s’appuie…

La gouvernance des vies et des sociétés par les algorithmes s’accompagne ainsi d’un certain nombre de risques sociaux, politiques et éthiques : infantilisation ou déresponsabilisation, surveillance, captation des données par les objets connectés, etc.

À l’échelle des individus, les interactions avec les machines sont de plus en plus nombreuses, à la fois en milieu professionnel et dans la sphère domestique. La promesse est de faciliter (délégation de tâches / augmentation des capacités), d’accompagner (divertissement / connexions sociales) voire de sous-traiter certaines tâches, tout en offrant des expériences interactives et personnalisées. Dans tous les cas, la délégation est censée faire économiser du temps aux individus. Mais, d’un autre côté, de nombreuses stratégies commerciales visent à capter ce temps libéré pour l’orienter vers d’autres occupations : les machines représentent un moteur essentiel de l’économie de l’attention, mais aussi du secteur des loisirs.

À l’avenir, une tension anthropologique majeure pourrait s’observer entre :

• d’un côté, la possibilité pour les individus de bénéficier des apports des machines pour repousser leurs limites biologiques (aptitudes physiques, intellectuelles, espérance de vie…) ;

• de l’autre, le risque d’une dépendance majeure des individus envers des machines à qui ils confieraient des compétences de plus en plus structurantes (capacité d’analyse, de calcul, de synthèse, de mémorisation, d’orientation dans l’espace…), qui seraient de fait progressivement perdues au fil des générations. 

Les individus se sentiront-ils augmentés ou diminués par la machine ? L’existence de machines de plus en plus sophistiquées, a fortiori lorsqu’elles sont conçues dans une approche anthropomorphique, conduira-t-elle les individus à élargir leur approche du vivant et du sensible ? Ou au contraire, ces machines les inciteront-elles à valoriser les spécificités qu’ils jugent véritablement humaines ?