23/01/2022 L’intelligence artificielle et ses évolutions sont-elles un atout ou un risque pour l’humanité ?
Par Emmanuel Arago
Emmanuel Arago est le pseudonyme d’un membre éminent du Comité de Rédaction de ce site. Je le remercie en notre nom à tous JPB
Selon le Larousse, l’Intelligence artificielle (IA) est un « ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine ».
S’interroger sur les évolutions de l’IA, amène à introduire la distinction essentielle entre « IA faible » et « IA forte » :
L’IA faible est une intelligence artificielle non-sensible qui se concentre sur une tâche précise. L’IA faible simule l’intelligence mais n’est pas intelligente. Tous les systèmes actuellement existants sont considérés comme des intelligences artificielles faibles.
L’IA forte, quant à elle, fait référence à une machine capable non seulement de produire un comportement intelligent, notamment de modéliser des idées abstraites, mais aussi d’éprouver une réelle conscience et une compréhension de ses propres raisonnements. Une IA forte se reconnaîtrait à sa capacité à passer avec succès le test de Turing. Décrit par Alan Turing en 1950, ce test consiste à établir une conversation à l’aveugle entre un humain (A), un ordinateur et un autre humain. Si l’humain A n’est pas capable de reconnaître lequel de ses interlocuteurs est un ordinateur, ce dernier a passé le test avec succès. Les IA fortes font l’objet de beaucoup de spéculation, on semble s’en rapprocher de plus en plus, mais il n’en existe pas encore.
Première Partie. L’ IA Faible
Quel que soit son domaine d’application, l’IA faible fonctionne de manière identique. Elle traite un nombre considérable de données avec des algorithmes performants. L’IA apprend automatiquement et automatise les processus. Sa principale différence avec un programme informatique est qu’elle ne reçoit pas d’ordres pour obtenir un résultat. Elle reproduit un modèle cognitif et ce faisant se rapproche de l’intelligence humaine.
1. Quelques exemples d’application
– Audiovisuel :
L’IA est capable de composer des musiques et, des films, des tableaux et autres œuvres d’art.
– Langage :
L’IA est capable d’écrire des articles de presse comme des textes littéraires ou poétique. L’actualité la plus récente a mis en lumière les incroyables performances de l’IA Chat GPT. Mise en service le 30 novembre 2022 dans une version test, pour le moment gratuite mais qui sera payante à terme, Chat GPT a connu un succès foudroyant avec plusieurs millions d’utilisateurs et une couverture de presse considérable.
– Automobile
Les fameux véhicules autonomes, rendus célèbres par Tesla et Google, n’ont plus besoin de conducteurs.
– Militaire
Les drones les plus performants sont désormais capables d’identifier seuls qui est l’ennemi et de décider seul s’il doit attaquer, sans recours à un ordre humain.
– Jeu d’échec et jeu de go
L’IA a battu les meilleurs champions humains dans ces deux jeux
2. Avantages
L’IA s’avère être un véritable auxiliaire pour l’intelligence humaine.
– Suppression des tâches automatiques et pénibles
– Démultiplication de la puissance de calcul bien au-delà de ce que peut faire un cerveau humain
Forte capacité de prédiction grâce au traitement des Datas
– Amélioration du service public rendu à l’usager
3. Dangers
Néanmoins, les risques sont nombreux
– Le piratage et la construction de fausses nouvelles. De ce point de vue, Chat GPT a généré une grande crainte dans les établissements scolaires et universitaires dont les professeurs ne sont plus sûrs de savoir qui a fait les devoirs relevés, l’élève ou l’IA.
– Le piratage des IA elles même et leur prise de contrôles par un tiers. Très concrètement, cela peut se traduire par la prise de contrôle d’un véhicule autonome qui échapperait ainsi à son propriétaire.
– Les défauts de conception de l’IA qui l’amènerait à prendre de mauvaises décisions ou à faire des erreurs.
– La perte d’emploi, sans que l’on soit sûr que les emplois perdus ici seront recréés ailleurs (validité ou épuisement de la théorie de Schumpeter de la « destruction créatrice »)
– La santé physique et psychologique, l’intelligence humaine (QI, mémorisation) qui peuvent être impactés négativement par le manque de stimuli, l’IA agissant et réfléchissant à la place de l’être humain.
– Un contrôle social totalitaire à l’échelle d’un état, tel qu’anticipé par George Orwell dans 1984 et dont les signes avant-coureurs se déploient en Chine
– Un contrôle social totalitaire à l’échelle d’une communauté par la diffusion de vidéos sur les réseaux sociaux
– Un apprentissage philosophiquement ou politiquement orientée de l’IA par ses concepteurs qui orienterait ses réponses et décisions dans une certaines direction, de la même manière qu’une école idéologiquement orientée influe sur la manière de penser des adules qui y ont reçu leur éducation.
– Une explosion du vivre ensemble et de la diversité culturelle, comme nous le montre déjà les algorithmes des réseaux sociaux qui constituent des « communautés » hermétiques les unes aux autres.
– Un essor de la propagande, de la désinformation et de la propagation de la haine, comme en témoigne déjà les fameuses « fermes à troll », dont les russes sont les grands, mais sans doute pas les seuls, spécialistes.
4. Quelle régulation ?
– Une régulation par le droit.
Il est en train d’émerger un droit des IA. Notamment pour préciser qui est responsable en cas d’IA réalisant des accidents : le propriétaire, le concepteur, le voleur qui en aurait usurpé le contrôle, l’IA elle-même ?
Par ailleurs, l’organisation Non Humanright Project, qui réfléchit au statut des végétaux et des animaux, se préoccupe des « êtres culturels du numérique » pour leur attribuer une reconnaissance juridique. On sait qu’Emmanuel Kant était disposé à reconnaître les mêmes droits à tous les êtres de raison, fussent-ils extraterrestres ou, ce qu’il n’avait pas imaginé, informatiques (cf Essai d’une comparaison, fondée sur les analogies de la nature, entre les habitants des diverses planètes, 1755). Thibaut Gress et Paul Mirault, dans la philosophie au risque de l’intelligence extraterrestre (2016) rappellent « que la question extraterrestre constitue le fil directeur de la réflexion morale de Kant en ceci que ce dernier cherche à définir une loi morale qui vaudrait pour tout être raisonnable et non pour l’homme seul, ce qui amènera Kant en retour à définir ce qui fait l’humanité de l’homme comme un obstacle à l’observation stricte de la loi morale. »
– Une Régulation par le contrôle des recherches et par les valeurs
Comment l’évolution de l’IA peut être régulée dans le sens d’un rapport bénéfices/risque contrôlé et positif ? Par le simple jeu de la liberté, conformément aux principes du libéralisme ? Ou au contraire par une forte intervention des sociétés humaines. Et auquel cas, à quelle échelle ? Mondiale ? Fédérale ? Nationale ?
Le Conseil de l’Europe a inscrit, à l’horizon 2028, la question de la régulation de l’IA comme l’un des défis majeurs afin de trouver un juste équilibre entre les bénéfices des progrès technologiques et la protection de ses valeurs fondamentales. Le grand défi de la Commission est de trouver un équilibre entre la réduction des risques et l’innovation, selon Théodore Christakis, professeur de droit et titulaire de la chaire Legal and Regulatory Implications of Artificial Intelligence au sein de l’Université Grenoble Alpes.
Dans le prolongement des réflexions européennes, dans une étude publiée le 30 août 2022, le Conseil d’État propose de poser les bases d’une stratégie française ambitieuse pour l’IA. Il encourage à faire de la CNIL l’autorité de contrôle nationale responsable de la régulation des systèmes d’IA prévue par le futur règlement européen.
En comparaison, les États-Unis et la Chine semblent plus réticents à imposer des obligations légales. La Chine ou les États-Unis, mettent l’accent sur l’accélération de l’innovation et la compétitivité, L’approche américaine est ainsi résumée en 2021 par Eric Schmidt, président de la Commission de sécurité nationale américaine sur l’IA et ancien CEO de Google : « l’avenir de l’IA ne sera pas construit par des règlementations mais par des investissements ».
Au final, la question est de savoir si la règlementation de l’IA est un problème de technologie ou un problème de valeurs ? L’atténuation des risques viendra-t-elle des règles éthiques ou de la stimulation de l’innovation.
2e Partie . L’ IA Forte
1. La Singularité technologique
Avec la « Singularité », ou « Singularité technologique », qui devrait se produire vers 2045, soit moins de 25 ans, selon certains experts, les IA s’autonomiseront et n’auront plus besoin des humains pour exister et apprendre. Les IA accèderont à la conscience d’elles-mêmes. Les hommes risquent alors de perdre le contrôle des machines. Ce champ de réflexion est abordé depuis longtemps par la science-fiction, le plus souvent sur le mode dystopique.
2. Ce que nous dit la science-fiction sur les dangers de l’IA forte :
– 2001 Odyssée de l’espace et le méga ordinateur HAL 9000 ;Il s’agit là d’une rébellion de l’IA contre l’être humain. S’il agonise d’une manière pathétique qui suscite l’empathie du spectateur, Hal n’en est pas moins animé d’une forme de méchanceté ou de jalousie
– Alien et l’androïde ASH.
La question posée par ASH est celle de l’humanité d’un être que rien ne distingue d’un humain, ni dans sa manière de penser ni dans son physique. Il en est de même dans les deux films de la série Blade runner.
– Real human et ses Hubots / Ex Machina et le personnage d’Ava
La question est de savoir ici si ces robots si semblables aux humains par la pensée et le corps doivent générer en nous de l’empathie et s’ils ont les mêmes droits que nous. La révolte des Robots, est présentée ici comme légitime, et c’est l’homme qui tient le mauvais rôle. Il y a là le même renversement de perspective que dans les westerns où les indiens sont passés de mauvais personnages tueurs de cowboys à victime de la cruauté et de la cupidité des mêmes cowboys. Ce type de vison nous amène à la question du transhumanisme qui envisage la perspective d’un dépassement de la condition humaine débouchant sur le posthumanisme.
3. Une nouvelle ère : le posthumanisme
Avec le posthumanisme, nous passerons à un système où le projet humaniste de prise en main total par l’homme de son destin serait arrivé à son terme et se renouvellerait. Dans le monde posthumain, les « hommes augmenté » grâce aux progrès de la science côtoieront des IA émancipés, tout en vivant en harmonie dans le cadre d’une reconsidération respectueuses de la place de chacun, animaux, végétaux, et humains ordinaires. Telle est du moins la version idéale et heureuse du posthumanisme. On peut aussi en craindre une version cauchemardesque, totalitaire et très inégalitaire, avec d’un côté les machines et les hommes augmentés élevés au rang de seigneurs, et de l’autre les simples humains ramenés au rang de troupeau, comme dans le film Elysium.
***
Au-delà de tout reflexe technophile ou technophobe, il importe de prendre conscience, qu’on s’en félicite ou s’en désole, que l’IA est là. Dès lors, nous n’avons d’autre alternative que de prendre en compte à la fois son existence et ses évolutions très rapides, tant dans ses bienfaits que dans ses dangers. On ne peut plus penser aujourd’hui l’évolution des sociétés humaines sans prendre en compte l’omniprésence et les évolutions de l’IA, de la même façon qu’on ne peut plus les penser sans prendre en compte la dimension environnementale qui s’impose à nous par le réchauffement climatique et l’effondrement de la biodiversité.
Sur ce point, laissons le mot de la fin à Chat GPT :
Europe Solidaire 