L’intelligence artificielle
une menace à venir
![L’humanité doit déjà faire face à de nombreux dangers qui pourrait l’amener au bord de l’extinction. Et maintenant, elle doit affronter cette nouvelle menace existentielle qu’elle a créée de toutes pièces. L’intelligence artificielle : une menace à venir](https://edunie.ucg.org/files/styles/full_grid9_breakpoints_theme_top_hat_mobile_1x/public/image/article/2017/11/07/l-intelligence-artificielle-une-menace-a-venir.jpg?timestamp=1522266762)
C’est de la véritable sciencefiction, comme dans les films et les émissions télévisées qui nous ont présenté divers scénarios terrifiants où des ordinateurs se rebellaient, telles que Hal 9000 dans le film « 2001 : l’Odyssée de l’espace », Skynet dans les films Terminator et les intelligences artificielles belliqueuses de la série dramatique sur la chaîne CBS intitulée « Personne d’intérêt ».
Se pourrait-il que les ordinateurs deviennent puissants et autonomes au point de parvenir à absorber l’information sur Internet, à contrôler les armes nucléaires, les réseaux électriques ainsi que les réseaux alimentaires et hydrauliques, et à tenir les êtres humains en otage pour les soumettre à leurs volontés ? C’est une pensée troublante — et peut-être pas aussi farfelue qu’on serait porté à le croire.
La cyberguerre (soit l’utilisation d’ordinateurs pour envahir, endommager ou voler l’information contenue dans d’autres ordinateurs) fait les manchettes dernièrement. Que ce soit sous forme de piratage informatique, de fuites d’information ou d’attaques au moyen de logiciels malveillants, la cyberguerre est devenue monnaie courante dans le monde. Souvenezvous du programme nucléaire iranien qui subit un revers important en raison d’un virus informatique malveillant en 2010 et des fuites de documents politiques compromettants qui survinrent au cours de la campagne électorale présidentielle américaine de 2016. Tout cela est possible en raison des luttes géopolitiques constantes, de notre dépendance accrue aux systèmes informatiques et du quasi omniprésent Internet.
Or, ce ne sont là que des symptômes d’une menace grandissante, celle des progrès rapides de l’intelligence artificielle (IA). Par « intelligence artificielle », on entend un programme informatique qui, comme l’indique le New Oxford American Dictionary, parvient à « effectuer des tâches qui requièrent normalement une intelligence humaine, comme la perception visuelle, la reconnaissance de la voix, la prise de décisions et la traduction linguistique ».
L’histoire de l’IA
L’IA existe depuis que les ordinateurs rudimentaires furent inventés lors de la Deuxième Guerre mondiale, pour aider à déchiffrer les codes militaires secrets. La cyber-révolution a mené à la fabrication de téléphones intelligents qui sont aujourd’hui des milliers de fois plus puissants que les ordinateurs qui ont servi à envoyer un homme sur la lune ! Et elle a fait avancer l’IA à pas de géant.
En 1969, les ordinateurs IBM 360 utilisés par la NASA pouvaient contenir environ six mégaoctets d’information. De nos jours, une clé USB ou une carte mémoire flash de 32 gigaoctets, que l’on peut obtenir facilement pour moins de 20 € peut emmagasiner plus de 5000 fois le nombre d’octets contenus dans ces énormes ordinateurs IBM 360, lesquels coûtaient alors plus de 3 millions de dollars ! Et les téléphones intelligents moyens d’aujourd’hui renferment au moins 16 gigaoctets, soit plus de 2500 fois le nombre d’octets pouvant être emmagasinés dans ces ordinateurs IBM de la NASA.
L’incroyable pouvoir informatique mis à notre portée montre à quel point l’immense révolution technologique actuelle nous touche à un rythme effarent. Comme il était mentionné récemment dans la revue The Economist, « le centre d’études et de recherches McKinsey Global Institute affirme que l’IA contribue actuellement à transformer la société “dix fois plus rapidement et 300 fois plus largement, ou environ 1000 fois plus” que la révolution industrielle ». (25 juin 2016, p. 3 de la section Special reports ; c’est nous qui mettons l’accent sur certains passages.)
Apprentissage profond
Nous vivons au rythme effréné de l’ère informatique, alors que les ordinateurs et l’information sont de plus en plus accessibles et abordables, d’une année à l’autre.
Au cours des dernières années, l’IA a réalisé une percée remarquable. Des chercheurs ont réussi à copier un aspect du fonctionnement neuronal du cerveau. On le décrit en termes d’« apprentissage profond » et maintenant, les ordinateurs peuvent non seulement analyser plus rapidement que jamais un volume sans précédent d’ensembles de données, mais aussi pondérer la valeur de ces données. Ainsi, ils « apprennent » à mesure qu’ils accumulent des résultats positifs, un peu comme les circuits neuronaux sont renforcés dans le cerveau au cours de l’apprentissage.
Selon la revue The Economist, « l’apprentissage profond permet aux systèmes d’apprendre et de s’améliorer en analysant une foule d’exemples au lieu d’être programmés explicitement, [et] il sert déjà à alimenter les moteurs de recherche sur Internet, à bloquer les spams, à suggérer des réponses à des courriels, à traduire des pages Web, à reconnaître des commandes vocales, à détecter des transactions frauduleuses effectuées avec des cartes de crédit et à diriger des voitures autonomes ». (p. 4)
Jusqu’ici, de telles avancées en matière de fonctions de l’IA n’ont posé aucune menace crédible pour l’humanité, mais à mesure que la capacité de l’IA continue de se multiplier, celle-ci pourrait en arriver à contrôler le processus décisionnel qui était jusqu’ici l’apanage des êtres humains. Et, selon des scientifiques et des chefs de file de ce secteur d’activité, il semble qu’une telle possibilité ne soit pas très éloignée.
Mises en garde de penseurs éminents
En raison des progrès rapides de l’IA, certains des penseurs les plus brillants en matière de technologie nous ont lancé de sérieux avertissements au sujet de cette menace mortelle.
En 2014, le milliardaire du monde de la technologie Elon Musk, fondateur de la célèbre série de voitures électriques Tesla et de SpaceX, qui envoie des fusées à la station spatiale, a prévenu que la montée de l’intelligence artificielle « risquait d’être plus dangereuse que l’arme nucléaire ». (p. 13)
Il ajouta ceci plus tard : « Je pense que nous devons nous méfier grandement de l’intelligence artificielle. Je pense qu’elle est probablement notre plus grande menace existentielle. Les scientifiques sont de plus en plus d’avis qu’il devrait exister une forme de supervision réglementaire, peut-être à l’échelle nationale et internationale, pour nous éviter de commettre une erreur très grave. Avec l’intelligence artificielle, nous convoquons le diable. » (Cité par Matt McFarland, « Elon Musk: “With Artificial Intelligence We Are Summoning the Demon” », The Washington Post, 24 oct. 2014)
Plus tôt cette année, Musk lança une autre mise en garde. En effet, il affirma ceci dans le cadre d’une entrevue : « L’intelligence artificielle est l’une des questions les plus troublantes [...] Elle peut être beaucoup plus intelligente que l’être humain le plus brillant de la planète. Cela crée une situation dangereuse. »
À son avis, une partie du problème réside dans le fait qu’on ne saurait prédire où de telles avancées risquent d’aboutir. « On peut se l’imaginer, entre autres, en étant certains que des extraterrestres super intelligents viendront nous visiter d’ici 10 ou 20 ans au plus. La super intelligence numérique sera comparable à un extraterrestre. » (Zoe Nauman, « End of the World as We Know It », The Sun, 16 fév. 2017)
Le célèbre astrophysicien Stephen Hawking s’est également dit inquiet en affirmant que « le développement complet de l’intelligence artificielle pourrait signifier l’extinction de la race humaine ». (Rory Cellan-Jones, « Stephen Hawking Warns Artificial Intelligence Could End Mankind », BBC News, 2 déc. 2014)
Bill Gates, cofondateur de Microsoft, ajouta ceci : « Je me range du côté de ceux qui s’inquiètent de la super intelligence. Pour commencer, les machines accompliront beaucoup de tâches à notre place et ne seront pas super intelligentes. Cela devrait s’avérer positif si nous gérons bien la situation. Mais quelques décennies plus tard, l’intelligence sera assez solide pour devenir une source de préoccupation. Je suis du même avis qu’Elon Musk et que d’autres encore, et je ne comprends pas pourquoi certaines personnes ne s’inquiètent pas de cet état de choses. » (Peter Holley, « Bill Gates on Dangers of Artificial Intelligence: “I Don’t Understand Why Some People Are Not Concerned” », The Washington Post, 29 janv. 2015)
Les préoccupations sont tellement importantes que cette année, « des centaines de scientifiques et technologues ont signé une lettre ouverte demandant qu’on mène des recherches sur les problèmes que pose l’intelligence artificielle en vue de lutter contre les dangers de la technologie ». Au nombre des signataires figuraient Musk, Hawking, des représentants de Google et de grandes sociétés d’IA ainsi que des professeurs d’importantes universités dans le monde. Les auteurs de cette lettre avisent qu’« il est important d’effectuer des recherches en vue de déterminer comment en tirer parti tout en évitant les pièges potentiels » et préviennent que « nos systèmes d’IA doivent agir exactement comme nous l’entendons ». (Andrew Griffin, « Stephen Hawking, Elon Musk and Others Call for Research to Avoid Dangers of Artificial Intelligence », The Independent, 12 janv. 2017)
L’IA devient plus courante et dangereuse
La révolution de l’« apprentissage profond » en est encore à ses balbutiements. Déjà, ce qui semblait être de la science-fiction il y a à peine quelques années est en voie de devenir réalité, petit à petit. Les voitures autonomes qui sont dirigées par l’IA et qui sont maintenant utilisées dans certaines régions se sont révélées, en général, plus sécuritaires que celles conduites par des êtres humains (même si certains accidents se sont produits).
Nous pouvons communiquer avec des assistants virtuels de l’IA comme Watson d’IBM, Siri de la société Apple, Alexa d’Amazon, Cortana de Microsoft et Google Now. Or, les nombreuses données personnelles recueillies par ces services posent de graves risques pour la protection de la vie privée. En fait, de nombreux utilisateurs ignorent qu’une bonne partie de leurs conversations privées à domicile peuvent être captées par leurs dispositifs intelligents et emmagasinées en ligne. Dernièrement, il a été révélé sur le site de Wikileaks que certains téléviseurs peuvent être piratés électroniquement par des agences d’espionnage et transformés en dispositifs d’écoute à l’insu de leurs propriétaires.
Mais ce qui est le plus inquiétant, comme certains le font remarquer, c’est l’aspect potentiellement beaucoup plus dangereux de cette révolution de l’IA.
Comme James Barrat, expert en la matière, le faisait remarquer : « Chaque année, des drones robotiques semi-autonomes tuent déjà des douzaines de personnes. Cinquante-six pays possèdent ou sont en voie de développer des robots de champ de bataille. La course est maintenant engagée pour les rendre autonomes et intelligents […] L’IA est une technologie à deux tranchants, comme la fission nucléaire qui peut illuminer des villes ou les incinérer. Avant 1945, sa puissance était inimaginable pour la plupart des gens. Devant l’intelligence artificielle avancée, nous sommes maintenant dans les années 1930. Nous ne survivrons probablement pas à une introduction aussi abrupte que celle de la fission nucléaire. » (Our Final Invention: Artificial Intelligence and the End of the Human Era, 2016, p. 21)
La Russie est en voie d’élaborer des drones sous-marins (« Russia Tests Terrifying Unmanned “Drone Submarine” Capable of Carrying Nuclear Warheads Within Range of the US », Daily Mail, 8 déc. 2016). Qu’adviendrait-il si ceux-ci étaient contrôlés par l’IA ?
La cybertour de Babel
Précédemment, lorsque l’humanité avait canalisé tous ses efforts dans une impressionnante entreprise d’auto-promotion, elle s’écria : « Allons ! bâtissons-nous une ville et une tour dont le sommet touche au ciel, et faisons-nous un nom, afin que nous ne soyons pas dispersés sur la face de toute la terre. » (Genèse 11:4)
Lorsque Dieu vit ce que les êtres humains se proposaient de faire alors qu’ils faisaient ensemble l’acquisition de plus amples connaissances technologiques et autres, Il dit : « […] maintenant rien ne les empêcherait de faire tout ce qu’ils auraient projeté. Allons! descendons, et là confondons leur langage, afin qu’ils n’entendent plus la langue les uns des autres. » (versets 6-7) L’intervention divine en temps opportun freina temporairement l’avancement de la « technologie » qui menaçait le bien-être de l’humanité, voire sa survie.
Les scientifiques calculent maintenant à quel moment nous parviendrons au stade de l’IGA, soit l’intelligence générale artificielle — le niveau d’intelligence pseudohumaine capable de raisonner et de penser sans programmation liée à un problème.
Comme l’explique James Barrat, « à l’heure actuelle, les scientifiques sont en voie de créer une intelligence artificielle, ou IA, d’une puissance et d’un niveau de sophistication toujours croissants. Une partie de cette IA se trouve dans votre ordinateur, dans vos électroménagers, dans votre téléphone intelligent et dans votre voiture. Une autre partie se trouve dans des systèmes de questions et de réponses, comme Watson. Et une autre partie, avancée par des organisations comme Cycorps, Google, Novamente, Numenta, Self-Aware Systems, Vicarious Systems et DARPA (la Defense Advanced Research Projects Agency américaine), se trouve dans les “architectures cognitives”, dont les créateurs espèrent voir atteindre une intelligence de niveau humain, selon certains, en un peu plus d’une décennie ». (p. 17)
Les scientifiques et les experts militaires espèrent que l’IGA atteindra le niveau de la SIA, ou super intelligence artificielle, où un ordinateur sera infiniment plus intelligent que les êtres humains. Si cela devait se produire, le génie proverbial sortirait de la bouteille et il serait très difficile de l’y faire retourner.
Elon Musk nous a déjà prévenus que si l’IA tombe dans de mauvaises mains, nous serons aux prises avec un véritable cauchemar. Comme le relate un article de l’Economist : « Ses voitures Tesla utilisent la plus récente technologie basée sur l’IA pour se déplacer de façon autonome, mais M. Musk craint qu’une future surcharge d’IA devienne incontrôlable pour les humains. “Il n’y a aucun problème si c’est Marcus Aurelius [empereur romain bienveillant] qui règne, mais la situation s’envenimera si c’est Caligula [empereur sanguinaire] qui tient les rênes”, dit-il. » (p. 4)
Si cette nouvelle superpuissance qu’est l’IA tombe dans de mauvaises mains, servira- t-elle à contrôler les gens ? Se pourrait-il qu’un régime pervers doté de cette superpuissance l’utilise pour contrôler les gens au moyen de codes numériques, voire de permis de travail ? Apocalypse 13 décrit une époque à venir de contrôle totalitaire de l’État, dans une Babylone moderne, dictant qui peut s’engager dans des activités commerciales et qui ne le peut pas, ce qui laisse entendre la nécéssité d’une surveillance étroite de chaque individu. Mais il faudra patienter pour voir comment cela deviendra réalité.
L’esprit de l’homme
Il y a un hic qui empêchera sûrement l’avancement attendu de l’IA, alors que l’homme plonge sans hésiter dans la création d’ordinateurs intelligents plus puissants que jamais pour essayer de copier et de surpasser le cerveau humain. C’est le fait que l’intelligence humaine est le produit résultant de l’union du cerveau de l’homme avec son esprit — phénomène qui ne peut être physiquement reproduit.
La Bible révèle cette composante non physique des êtres humains qui leur donne la capacité de penser de façon abstraite, de ressentir des émotions et de prendre conscience. Elle révèle ceci : « […] dans l’homme, c’est l’esprit, Le souffle du Tout-Puissant, qui donne l’intelligence […] » (Job 32:8)
C’est là un obstacle de taille qui devra être surmonté pour que les machines atteignent un jour le même niveau d’intelligence et de pensée que l’homme. Bon nombre de scientifiques croient que l’être humain n’est qu’une entité physique sans composante spirituelle et qu’il est donc possible d’aspirer à copier, voire à surpasser son intellect, quoique cet objectif demeure ambitieux.
Néanmoins, même si les ordinateurs ne parviennent jamais à prendre conscience, les scientifiques estiment qu’ils peuvent simuler l’intelligence humaine. S’ils reçoivent suffisamment d’information, de puissance et d’exemples de la vraie vie, ils pourraient finir par « agir » comme un être humain, ce qui représenterait ce que certains pourraient considérer comme une forme de semi-vie. Un tel phénomène n’est peut-être pas loin de se manifester.
Que Ton règne vienne !
L’humanité doit déjà faire face à de nombreux dangers d’extinction : l’arme nucléaire, les armes chimiques mortelles et les épidémies de maladies naturelles ou introduites artificiellement par l’homme. Et maintenant, elle doit affronter cette nouvelle menace existentielle qu’elle a créée de toutes pièces.
Or, comme Il l’a fait dans le cas de la tour de Babel, Dieu dit qu’Il interviendra aux temps de la fin pour empêcher la race humaine de s’autodétruire. Comme promis par le Christ : « Et, si ces jours n’étaient abrégés, personne ne serait sauvé [ne survivrait] ; mais, à cause des élus [c.-à-d., pour l’amour de Ses disciples], ces jours seront abrégés. » (Matthieu 24:22)
Quand cela surviendra-t-il ? Nous n’en sommes pas absolument certains, mais nous sommes déjà en présence de certaines conditions qui, selon la Bible, existeront aux temps de la fin. Comme nous pouvons le lire dans Daniel 12:4, les connaissances se multiplieront dans la période qui précédera le retour de Jésus-Christ. Grâce à la révolution technologique, l’information a augmenté de façon exponentielle dernièrement, accomplissant ainsi la prophétie liée à ces conditions.
Que pouvons-nous faire entre-temps ? Comme nous l’avons déjà vu, nous ne devons surtout pas perdre espoir. Nous devons chérir les vérités divines plus que jamais, contribuer à prêcher l’Évangile du Royaume de Dieu à venir et prier pour qu’il vienne mettre fin au chaos de plus en plus dangereux créé par l’homme sur la terre.
Jésus-Christ nous rappela de prier tous les jours : « […] que ton règne vienne; que ta volonté soit faite sur la terre comme au ciel. » (Matthieu 6:10) Le Royaume sera la solution par excellence face à la dangereuse entreprise d’exploration humaine de l’IA et d’autres technologies susceptibles de mener à une catastrophe.