Les ateliers Cogito se déroulent tous les 3° jeudi du mois à 18h15, à l’ES Art Factory, 5 rue du Général Vincent à Montpellier.
J'y aborde à chaque fois une reflexion sur un thème différent, sociétale, philosophique ou symbolique.
Des échanges, sous la forme de causeries libres et respecteuses font suite à mon intervention.
Entrée libre avec participation au chapeau.
🔺🔺🔺
Les textes de chaque Cogito ainsi que les Podcasts (à venir) sont ensuite publiés sur mon site.
Partage libre et encouragé à condition de citer la source.
L’Intelligence Artificielle est un sujet très vaste et il faudrait bien plus que quelques minutes pour l’appréhender et c’est la raison pour laquelle j’ai décidé de l’aborder sous un prisme bien particulier. Celui du danger qu’elle fait encourir à l’humanité. Et là encore je vais me limiter à explorer une facette bien particulière de cette problématique.
J’utilise ChatGPT régulièrement. C’est bluffant, et plus le temps passe et plus il s’améliore au fil de ses versions. Je l’utilise lorsque je bute sur un problème en programmation. Il s'avère plutôt efficace. Je l’utilise aussi pour mes recherches, puisque désormais il est capable de compiler et trier le contenu des sites webs pour vous apporter une réponse pertinente, là où Google vous oblige à cliquer sur de dizaines de liens pour enfin, et peut-être, trouver ce qui vous intéresse. Notez bien que j’annonce ici la mort prochaine des moteurs de recherche tels que nous les connaissons !
La technologie ne va pas s'arrêter là, et on peut penser que d'ici quelques années les progrès seront fulgurants. Certains nous annoncent même la « singularité technologique » pour bientôt.
https://fr.wikipedia.org/wiki/Singularit%C3%A9_technologique
https://www.philomag.com/articles/quel-credit-donner-la-singularite-technologique
L’expression « singularité technologique » désigne un événement hypothétique à venir, et pour lequel l'intelligence artificielle déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles dans la société humaine. On parle de technologies disruptives. En fait, l’IA serait alors capable de s’auto-améliorer en permanence.
Des auteurs de science fiction et des réalisateurs se sont depuis longtemps emparés de ce sujet. Ainsi, le film « Terminator » traite de la menace que pourraient faire naître des robots créés par une super-intelligence issue de la singularité technologique. Le film « Matrix » quant à lui, dépeint un futur dystopique dans lequel la réalité telle que perçue par la plupart des humains est une simulation virtuelle créée par des machines douées d'intelligence, afin d'asservir à leur insu les êtres humains.
Pour en revenir à notre sujet, je ne pense pas que le danger viendra, comme on peut le voir dans ces films et le lire dans certains articles, de la venue inquiétante d'un robot meurtrier. Je crois que cette théorie n’a pas d’autre objet que d’alimenter les phantasmes afin de détourner l’attention du public sur ce qui constitue à mes yeux, le véritable et unique problème.
Je m’explique : nous vivons dans un monde capitaliste et ultra-libéral dans lequel les richesses mondiales appartiennent à une minorité.
Selon l’AFP, en 2017, 5% de la population les plus riches possédaient 76,4% de la richesse mondiale.
En 2020, selon l’Oxfam, un observatoire de la pauvreté :
- Les 1 % les plus riches possèdent 48 % de tous les actifs financiers mondiaux.
- Les pays riches du Nord détiennent 69 % des richesses mondiales et accueillent 74 % des richesses des milliardaires alors qu’ils n’abritent que 21 % de la population mondiale.
https://www.oxfamfrance.org/rapports/multinationales-et-inegalites-multiples/
L’avènement de l’Intelligence Artificielle à travers ses implications économiques et politiques attise les convoitises des prédateurs et des plus riches qui ont pour unique rêve celui de le devenir encore plus. On comprend mieux alors la bataille acharnée qui s’engage, à coups de centaines de milliards d’investissements.
Les entreprises n'étant que très rarement des philanthropes elles vont fatalement s'emparer de cette technologie et remplacer de nombreux employés par une IA. Cela a déjà commencé.
Et même des métiers qui sont aujourd'hui relativement techniques seront concernés. Du coup, quelqu'un sans qualification particulière pourra demander à l'IA de gérer la comptabilité, le stock, faire un bilan, de créer des rapports pointus, de créer des sites web, des logiciels, d'optimiser les ventes, de communiquer avec les clients, les fournisseurs, gérer les paies, les appels d'offres, de créer des documentations, rédiger des courriers, des articles, faire des traductions... etc. Bref vous comprenez où je veux en venir.
La conséquence la plus à craindre ne sera pas celle du chômage comme je viens de l’évoquer, mais bien celle de la baisse du niveau intellectuel.
L'industrie et les services pour les besoins de l'IA auront besoin de spécialistes qui seront très bien payés. Mais ils seront peu nombreux et pour le reste des tâches, quelques employés sans compétences particulières suffiront.
Et lorsque que l'IA s'emparera des métiers manuels en permettant de contrôler efficacement des drones, machines, robots, en faisant mieux que l'homme, le processus s'accélérera. Sachez-le, c’est pour demain.
Le monde vers lequel nous nous dirigeons est une dystopie capitaliste où une très très petite minorité (encore plus petite qu'aujourd'hui !) disposera du pouvoir économique, intellectuel et voir même politique... face à une écrasante majorité de personnes. Les lois auront, bien entendu, été soigneusement modifiées afin d’organiser leur exemption de responsabilité en cas de problème face à l’IA. A moins que nous nous retrouvions dans une société illibérale ce qui le rêve de nombreux patron de la Silicon Valley.
Le système éducatif accompagnera ce processus avec une baisse drastique du niveau. Il est déjà en chute libre depuis la démocratisation de la télé dans les années 70. Des premières émissions de vulgarisation culturelles jusqu’à aujourd’hui avec la télé-réalité et la course à l’audimat, le changement est flagrant.
Puis avec l’avènement de l’internet et des réseaux sociaux. Facebook, Tiktok, X et consorts, à travers leurs algorithmes qui flattent les instincts primaires sont venus « achever l’esprit critique » au profit de l’information rapide, simpliste et non vérifiée.
Dans ce monde nouveau, la pensée complexe a été remplacée par des — j’allais écrire « réflexions », mais peut-on parler de réflexion chez ceux qui sont devenus des spécialistes de tout après avoir visionné quelques vidéos complotistes sur le net ? — élucubrations simplistes menant à un relativisme abject, la bêtise est devenue la norme, même chez certains poètes…
Former trop de personnes intelligentes ne servira à rien d'un point de vue économique car bien trop coûteux, et serait risqué politiquement et économiquement parlant. Leur monde ayant plus besoin de consommateurs passifs que de citoyens à l’esprit critique !
Il est donc URGENT de changer RADICALEMENT notre modèle de société. Dire adieu au capitalisme, au libéralisme, à l'économie de marché, aux dogmes de la croissance et du travail, aux frontières géographiques et surtout psychologiques... pour nous tourner enfin vers une société de l'HOMME et de la NATURE. Pratiquer l’écologie Humaine. Pas seulement une société de loisirs, mais une société où l'esprit, l’éducation, les humanités, les sciences, les arts, la poésie... régneront en maîtres.
Et quant à l'intelligence artificielle, elle sera alors au service de l'humanité et de son bien être, et non plus au service de quelques tarés issus de la compétition. Leur connerie naturelle les amenant, au détriment des autres, à accumuler toujours plus de richesses et de pouvoirs.
Je termine en vous proposant des réanalyser les films cités plus haut. Plutôt que le premier degré, osons le prisme de l’allégorie. En transposant l’asservissement de l’humanité par une IA devenue folle par l’asservissement de l’humanité venant d’une poignée d’hypers-riches dégénérés[1], détenant, contrôlant et manipulant l’IA selon leurs besoins.
Connaissant les auteurs de SF, je suis persuadé que c’est bien là le but recherché car ils ont bien souvent eu à cœur d’interroger leurs lecteurs et spectateurs à travers leurs œuvres.
L’IA comporte d’autres dangers, le chômage, j’en ai parlé, son utilisation a des fins de manipulation (fausses vidéos et photos). Il y a également des problèmes éthiques et de propriété intellectuelle puisqu’elle puise dans la création humaine. Des problèmes juridiques sur les questions de responsabilité en cas d’incidents (qui est responsable en cas d’accident d’une voiture autonome ?). Il y a également ses hallucinations car plutôt que de répondre simplement « je ne sais pas », elle invente parfois n’importe quoi.
« L’on a pris comme moteur de notre société occidentale la compétition. La conséquence est qu’on est en train de sélectionner les gens les plus dangereux, ceux qui ne seront pas capables d’imagination » [ Albert Jacquard ]
J'ai dit
Notes :
IA & Conscience.
Je considère, personnellement que la conscience ne peut être que biologique. Ce que l’on appelle l’autonomie au sens philosophique du terme, n’existe pas pour une IA. J’écoute une musique et je décide brusquement d’en écouter une autre. C’est ça l’autonomie. La morale, l’éthique et la compassion ainsi que d’autres qualités morales échappent également à l’IA, même si elle peut être capable de les simuler.
Chômage
Penser que le chômage sera compensé par d’autres métiers est pour moi une imposture intellectuelle.
1/ La hausse de la productivité entraîne la disparition d’emplois. Le propre d’une entreprise étant d’augmenter ses profits, je ne vois pas au nom de quoi ses actionnaires s’en priveraient.
2/ Et même si ponctuellement on verrait une industrie embaucher plus de personnes, le hausse de la productivité serait telle que cela entraînerait la fermeture de nombreux concurrents et donc d’un chômage, certes moins visible localement.
3/ Concernant les nouveaux métiers, comme par exemple « prompt engineer » ou « ingénieur de saisie », ils ne seront pas assez nombreux pour remplacer les chômeurs qu’ils engendreront. Je me répète, le propre des capitalistes étant de toujours gagner plus.
4/ Et concernant les emplois qui seraient par exemple du domaine de l’aide à la personne, et même si quelques avancées sont apparues ces dernières décennies, j’attends toujours la résolution des problèmes concernant les sans-abris, le mal logement, la malbouffe avec la précarité alimentaire, la santé, l'exclusion, l'environnement, l'aide aux précaires, le soutien psychologique...
IA et anthropomorphisme
Il ne faut pas faire d’anthropomorphisme. L’IA est bien artificielle comme son nom l’indique. Elle est alimentée par l’intelligence humaine à travers internet et les immenses base de données. Rien d’autre.
ChatGPT
Mot-valise composé des mots anglais « chat » et « GPT ». « chat » désignant un dialogue en ligne et « GPT » est un sigle signifiant « Generative Pre-trained Transformer ». C’est un modèle de langage où le « préapprentissage » consiste à prédire le prochain mot dans une séquence de texte. On parle d’autocomplétion, c’est ce que fait l’IA lorsqu’elle vous répond.
IA dans les armées
Les militaires ne souhaite pas avoir des armes autonomes car ils désirent et ont besoin de l’obéissance dans leurs actions.
La manipulation des images et vidéos
Certains spécialistes prétendent que puisque nous sommes nés dans un monde où la manipulation existe depuis longtemps (images et information) nous devrions être des « avertis ».
Sauf que dans la réalité, en tout cas la mienne, j’entends régulièrement des personnes me dire : si c’est écrit, si il le dit dans une vidéo alors c’est obligatoirement vrai...
Danger des robots
Débrancher une prise c’est simple, même s’en le faire exprès en se prenant les pieds dedans.
Isaak Asimov, les Trois lois de la robotique
1/ Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
2/ Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
3/ Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.
4/ La « Loi Zéro », selon laquelle « un robot ne peut porter préjudice à l'humanité, ou, par inaction, laisser l'humanité subir un préjudice », loi qui conduit, enfin, à reformuler la première loi de la manière suivante :
« un robot ne peut porter préjudice à un être humain, ni, par inaction, laisser un être humain subir un préjudice, à moins que cela viole la Loi Zéro de la robotique »
Illibéralisme (WikiPédia)
L’illibéralisme est le rejet des principes de la vision libérale (en particulier politique et/ou sociale).
Par antagonisme avec la notion de démocratie libérale, le terme est couramment décliné sous l'expression de « démocratie illibérale ». Selon le politologue Matthijs Bogaards, il s'agit d'« une situation démocratique où, néanmoins, l’indépendance de la justice est malmenée, et les citoyens ne bénéficient pas d’un traitement égalitaire face à la loi, ni de protections suffisantes face à l’État ou à des acteurs privés »Note 1. La notion de démocratie illibérale est déjugée par certains analystes qui mettent en cause son manque de consistance ou de pertinence.
Source de l'image en illustration :
https://www.flickr.com/photos/152824664@N07/30212411048/
A écouter aussi sur :
- Ausha ;
- Apple Podcasts ;
- Spotify ;
- Deezer ;
- Podcast Addict ;
- Amazon Music ;
- YouTube ;
- Pocket Casts ;
- Castbox ;
- Overcast ;
- Castro.