Le cri d’alarme est sonné : qui s’occupent des questions fondamentales de l’IA?

Intelligence artificielle - avenir humanitéDepuis déjà 10 ans, je soulève les questions éthiques qui pavent la voie du futur en lien avec l’invasion des technologies. Si je fais l’évangélisatrice des outils technologiques depuis leur arrivée dans nos vies, j’ai aussi apporté, chaque fois que je le pouvais, un éclairage axé sur la Présence que je qualifie de primordiale pour les entreprises qui souhaitent avoir de bonnes relations avec leurs clients et employés. Je fais la promotion du marketing de sens, et des affaires de sens parce que j’ai trop vu d’abus et de non-sens.

Depuis quelques temps, je fais régulièrement le constat de dérives importantes avec l’usage invasif des technologies dans nos vies. Si vous suivez ce blogue, nombreux sont les billets qui soulèvent ces préoccupations. Évidemment, j’ai souvent l’impression de crier dans une boîte de Pandore que nul n’ose ouvrir de peur de devoir se poser les bonnes questions et de changer ses habitudes. Tout comme la pluie fait pousser aussi bien les tomates que la mauvaise herbe, mon discours appelle à l’humanisation de nos vies grâce aux technologies, et non la déshumanisation accélérée par l’invasion des technologies, notamment l’intelligence artificielle (IA) dont mon article a suscité quelques réflexions.

Je suis donc très préoccupée par la place que l’IA prend actuellement, et des profondes remises en question que cela suscite pour notre futur. Je vois les enfants en très bas âge être calmé avec le iPhone de papa ou le iPad de maman. Je vois la quasi totalité de mes amis (incluant moi) littéralement enchaînée à leur mobile comme le dernier maillon les reliant au monde réel pendant qu’on ne voit plus ce qui se passe autour de nous, la dernière en lice, une ado happée par un train dans l’ouest de l’île avec les écouteurs et le nez sur son mobile. Je vois des entreprises se demander comment faire pour automatiser leur service à la clientèle avec des chatbots et le dernier en lice à pousser cette logique à l’extrême : Facebook. Il a prouvé qu’en plus de répondre en imitant un humain, que l’IA pouvait prendre le contrôle en apprenant son propre langage!!! Je capote littéralement (lisez pour comprendre les réels dangers). Je comprends qu’Elon Musk ait soulevé un tollé sur cette question contre Mark Zuckerberg. Je ne voudrais pas passer sous silence les dangers connus par les géants des telecoms des ondes cellulaires et du wi-fi, les conséquences sur la génétique et les dérives de discrimination basées sur l’ADN bien amorcées, et la liste s’allonge chaque jour. Et voilà que notre gouvernement accueille en grande pompe et finance un laboratoire sur l’intelligence artificielle ici à Montréal pour Facebook!!! Où est l’argent pour l’institut d’éthique et de gouvernance pour encadrer la place des technologies, et les effets dévastateurs à prévoir, et bien amorcés dans l’humanité?

J’ai lu ce billet d’Arianna Huffington qui m’a confirmé que nous devons agir, c’est urgent. Je me suis permise une traduction, car je pense que le message doit être entendu partout. C’est un billet qi fait écho en tous points à mes préoccupations et très bien documenté. Un extrait qui m’interpelle en particulier, car ils sont nombreux, est celui-ci .

« Lorsque nous avons pris le feu et l’avons mal utilisé, nous avons inventé l’extincteur », a déclaré Tegmark. « Lorsque nous avons eu des voitures et que nous les avons mal utilisées, nous avons inventé la ceinture, le coussin gonflable et les feux de circulation. Mais avec les armes nucléaires et IA., nous ne voulons pas apprendre de nos erreurs. Nous voulons planifier à l’avance. « 

Contrairement à l’IA, la menace des armes nucléaires était, pour des raisons évidentes, très tangible et a été prise au sérieux dès le début – avec des commissions, des débats publics, des traités, etc. Cette menace existe encore (une nouvelle avec l’intelligence artificielle), mais personne ne considère alarmiste de soulever des questions éthiques à ce sujet.

Je me pose donc aux côtés de plusieurs personnes inquiètes pour notre avenir pour propager la nécessité d’un débat public sur ces questions et de confier à des « vraies » humains, conscients et altruistes la responsabilité d’encadrer ces développements technologiques pour l’avenir de l’humanité. N’allez surtout pas croire que je suis contre le progrès et les technologies, sinon vous me connaissez très mal. Mais à force de dériver les ressources dans quelques poches, phénomène pour lequel on se révolte sans rien faire depuis fort longtemps, il ne faudrait pas que nous soyons l’arbre qui fournit le bois pour l’allumette! Après l’argent, le pouvoir et le contrôle absolu, sommes-nous prêts à descendre dans la chaîne de l’évolution en tant qu’humain?

MERCI DE PARTAGER ET ENCOURAGER LA DISCUSSION, MAIS SURTOUT D’EN FAIRE UN ENJEU PRIORITAIRE AUPRÈS DES GOUVERNEMENTS. IMAGINEZ QUE L’IA DÉCIDE DE NOS PRIORITÉS UN JOUR, CROYEZ-VOUS QUE LA QUALITÉ DE L’AIR SERAIT PRIORITAIRE PAR RAPPORT AU BESOIN D’ÉNERGIE, OU QUE LA FAIM DANS LE MONDE SOIT PRIORITAIRE PAR RAPPORT À LA PRODUCTION DE PUCES?

 

Tiré du texte original : We’re Drowning in Data But Starved for Wisdom

Nous nous noyons dans les données, mais nous sommes affamés de sagesse

Ce n’est pas seulement l’éléphant dans la pièce, c’est l’éléphant dans l’univers – et l’éléphant est encore un nouveau-né. Je parle du développement de l’intelligence artificielle et de la façon dont nous pouvons être préparés pour ce qui se passe lorsque, comme l’a dit le , du MIT, Max Tegmark, «les machines nous dépassent à toutes les tâches». La nécessité d’avoir cette conversation «la conversation la plus importante de notre temps « , fait l’objet de son nouveau livre, Life 3.0: Being Human in the Age of Artificial Intelligence, que je viens de terminer. C’est l’un de ces livres que vous ne pouvez pas non plus mettre sur pause, et que vous appelez instantanément vos amis et que vous les pousser à le lire au plus vite.

Tegmark est physicien, cosmologue, directeur scientifique du Foundational Questions Institute et cofondateur de l’Institut Future of Life. Et son nouveau livre devrait être nécessaire pour tous ceux qui se soucient de la technologie ou du futur, c’est-à-dire tout le monde.

Même si IA (Intelligence artificielle) est un sujet brûlant en ce moment, beaucoup de discussions concernent les aspirateurs-robots, les voitures auto-conductrices ou la possibilité de réduire les lumières de votre salon avec une commande vocale. Et bien que ce soit génial (j’adore les vidéos de chats sur les Roombas autant que la prochaine personne), le problème avec notre conversation sur l’IA est le même que celui de notre conversation sur la technologie en général: nous manquons l’image globale. C’est-à-dire que nous ne posons pas la question de savoir ce que signifie vraiment être humain, de ce qui est sacré et irréductible à propos de notre humanité, et comment redessiner et protéger les frontières de cette humanité à mesure que la technologie augmente son invasion à grande échelle.

Comme si cela ne suffisait pas, les ressources dont nous avons besoin pour relever ce défi – la sagesse, la créativité, l’intuition, la réflexion et la prise de décision réfléchie – sont les choses dont nous perdons l’accès avec notre dépendance à nos écrans et dispositifs.

La science continue d’être capable d’expliquer de plus en plus notre existence externe, et même interne, mais le progrès accéléré de l’intelligence artificielle devrait nous obliger à clarifier ce que signifie être humain.

Et c’est parce que les nouvelles avancées sont différentes de tout ce qui est venu avant. La montée en puissance de l’IA et l’hyper-connectivité croissante et écrasante de notre vie quotidienne ont le potentiel d’éroder notre humanité de manière sans précédent. En fait, cela se produit déjà: notre dépendance à nos téléphones et à nos écrans, en les autorisant dans chaque sphère de notre vie, change notre façon d’interagir et avec nous-mêmes. Comme Thích Nhất Hạnh, le monge bouddhiste vietnamien renommé, a déclaré: « il n’a jamais été aussi facile de s’enfuir. » Une étude menée en 2015 par Microsoft a révélé que la portée de l’attention humaine tombe maintenant après environ huit secondes (environ une seconde de moins qu’un poisson rouge). Et les études ont également constaté que la présence d’un téléphone dans les interactions sociales dégrade la qualité de la conversation et diminue le niveau d’empathie que les gens ressentent l’un pour l’autre. Une étude de 2015 sur le PEW a révélé que 89% des propriétaires de téléphones portables avaient utilisé leur téléphone lors de leur dernière rencontre sociale et 82% ont déclaré avoir endommagé les interactions.

Notre technologie nous permet de faire des choses étonnantes, mais elle accélère également le rythme de nos vies au-delà de notre capacité à se maintenir. Comme Isaac Asimov l’a écrit en 1988, «l’aspect le plus triste de la vie en ce moment est que la science rassemble la connaissance plus rapidement que la société rassemble la sagesse».

Et avec les progrès de l’IA qui sont juste au coin de la rue, nous aurons besoin de toute la sagesse possible. Il est facile de caricaturer ceux qui sonnent l’alarmes sur l’AI comme étant, bien, alarmistes. Mais il devient plus difficile lorsque vous vous rendez compte que beaucoup d’entre eux sont parmi les voix les plus visionnaires de la science et de la technologie. Comme Stephen Hawking, qui a déclaré à la BBC que «le développement de l’intelligence artificielle complète pourrait épeler la fin de la race humaine». Ou Bill Gates, qui a déclaré qu’il est «dans le camp qui se préoccupe de la super intelligence» et qu’il «ne comprend pas» pourquoi certaines personnes ne sont pas concernées.  »

Et puis il y a Elon Musk, qui ne peut certainement pas être appelé un luddite. En 2014, il a prévenu que «avec une intelligence artificielle, nous appelons le démon», et a déclaré que «si je devais deviner quelle est notre plus grande menace existentielle, c’est probablement cela».

C’est pourquoi, en 2015, Musk a fait don de 10 millions de dollars à l’Institut Future of Life de Tegmark pour aider à assurer que l’IA se développe de manière sécurisée. « Voici tous ces principaux chercheurs de l’IA qui disent que la sécurité d’IA est importante », at-il déclaré à l’époque. « Je suis d’accord avec eux, alors je m’engage aujourd’hui à consacrer 10 millions de dollars à la recherche visant à garder l’IA bénéfique pour l’humanité ».

Ce qui fascine le débat sur l’intelligence artificielle, c’est qu’il ne s’agit pas seulement de la menace que l’IA représente potentiellement pour l’humanité, mais – un débat beaucoup plus intéressant et conséquent – sur ce que signifie vraiment être humain.

Si les humains étaient simplement des machines intelligentes, ils pourraient être mélangés à la plus intelligente avec l’intelligence artificielle la plus intelligente, sans perdre de rien. Mais s’il y a quelque chose d’unique et ineffable d’être humain, s’il existe une âme, une essence intérieure, une conscience au-delà de notre esprit, de plus en plus connectés à ce soi-même – qui est aussi ce qui nous relie réellement aux autres – C’est ce qui donne du sens à la vie. Et c’est aussi ce qui détermine finalement pourquoi le progrès technologique découplé de la sagesse est tellement dangereux pour notre humanité. Comme Yuval Harari l’a écrit dans Homo Deus, «les progrès technologiques ont un programme très différent. Il ne veut pas écouter nos voix intérieures, il veut les contrôler. Nous remettrons à Ritalin à l’avocat distrait, Prozac au soldat coupable et Cipralex à la femme insatisfaite. Et ce n’est que le début.  »

Ainsi, l’IA est – ou devrait- nous obliger à réfléchir sérieusement à ce qu’est d’être humain. Ensuite, pour prendre des mesures afin de protéger notre humanité de l’assaut de la technologie dans tous les aspects de nos vies, nous devenons de plus en plus dépendants de nos smartphones et de tous nos écrans omniprésents.

Si le débat est gagné par ceux qui croient que si les êtres humains ne sont rien d’autre que le produit des algorithmes biochimiques, est-ce vraiment important si nous sommes réduits, comme l’a dit Harari, à « des vagabonds inutiles qui passent leurs jours à dévorer des expériences artificielles sur la terre »? Ou, en effet, mesurant notre estime de soi par le nombre de pouces en l’air sur Instagram, ou le nombre de Snapstreaks sur Snapchat?

Une partie de notre liste de souhaits pour nos vies et notre avenir devrait dissimuler la sagesse de l’intelligence. À notre époque de Big Data et d’algorithmes, ils sont faciles à confondre.

Mais la vérité est que nous nous noyons dans les données et nous sommes affamés de sagesse. Comme Harari le l’a dit, « dans le passé, la censure a fonctionné en bloquant le flux d’informations. Au XXIe siècle, la censure fonctionne en inondant les personnes avec des informations non pertinentes. . Dans les temps anciens, le pouvoir était d’avoir accès aux données. Aujourd’hui, avoir le pouvoir signifie savoir ce qu’il faut ignorer.  »

Comme nous sommes inondés de plus en plus de données et de plus en plus de distractions, et à mesure que l’intelligence artificielle devient plus intelligente, il est essentiel que nous appréciions et protégeons les qualités personnelles et personnelles, comme la sagesse et l’émerveillement. Contrairement à l’intelligence, Tegmark écrit: «l’avenir de la conscience est encore plus important, car c’est ce qui permet la signification des choses». Il continue à contraster la prudence ou «la capacité de penser intelligemment», avec la sensibilité, «la capacité d’expérimenter subjectivement qualia « , qu’il définit plus tôt comme« les éléments de base de la conscience tels que la rougeur d’une rose, le son d’une cymbale, l’odeur d’un steak, le goût d’une mandarine ou la douleur d’une pincée ». Jusqu’au maintenant, il écrit: « nous, les humains, avons construit notre identité en étant Homo sapiens, les entités les plus intelligentes autour ». Mais « alors que nous nous préparons à être humiliés par des machines toujours plus intelligentes », il nous exhorte à « se défiler comme Homo sentiens« .

Cette vision est reflétée par Stuart Russell, un informaticien de l’Université de Californie, Berkeley, et aussi le co-auteur d’un des manuels scolaires séminiques d’intelligence artificielle. « Comme si l’intelligence était quelque chose qui importait et non la qualité de l’expérience humaine », a-t-il déclaré. « Je pense que si nous nous sommes remplacés par des machines qui, autant que nous le savons, n’auraient aucune existence consciente, peu importe le nombre de choses incroyables qu’elles ont inventées, je pense que ce serait la plus grande tragédie possible ».

Bien sûr, il y en a qui croient que nous ne sommes que des machines, et que même l’idée qu’il y ait quelque chose d’unique ou sacré sur les humains ou la conscience humaine est en quelque sorte antithétique. Mais la science et les qualités comme la crainte et l’émerveillement – qui ont souvent été accompagnées d’une découverte scientifique – ne sont pas antithétiques. Ils ont coexisté depuis des millénaires. Voici comment l’astrophysicien Neil deGrasse Tyson l’a décrit: «Quand je dis spirituel, je me réfère à un sentiment que vous auriez qui vous relie à l’univers de manière à pouvoir défier un vocabulaire simple», a-t-il déclaré. «Nous pensons à la spiritualité comme aire de jeux intellectuels, mais au moment où vous apprenez quelque chose qui touche une émotion plutôt que juste quelque chose d’intellectuel, j’appellerais cela une rencontre spirituelle avec l’univers».

Et c’est ce genre de rencontre qui risque de se perdre si nous ne prenons pas sérieusement en compte les avertissements sur la technologie et l’humanité. Et, contrairement à d’autres progrès technologiques, avec IA, il se peut qu’il contienne quelques imprécisions par rapport à l’original. « Lorsque nous avons pris le feu et l’avons mal utilisé, nous avons inventé l’extincteur », a déclaré Tegmark. « Lorsque nous avons eu des voitures et que nous les avons mal utilisées, nous avons inventé la ceinture, le coussin gonflable et les feux de circulation. Mais avec les armes nucléaires et IA., nous ne voulons pas apprendre de nos erreurs. Nous voulons planifier à l’avance.  »

Contrairement à l’IA, la menace des armes nucléaires était, pour des raisons évidentes, très tangible et a été prise au sérieux dès le début – avec des commissions, des débats publics, des traités, etc. Cette menace existe encore (une nouvelle), mais personne ne considère alarmiste de soulever des questions éthiques à ce sujet.

Texte traduit par l’IA de Google, et révisé par l’intelligence non artificielle de Sylvie Bédard

Auteure originale, l’influenceure et auteure Arianna Huffington

Tiré du texte original : We’re Drowning in Data But Starved for Wisdom

 

Blogue La Présence des idées

Une réflexion sur “Le cri d’alarme est sonné : qui s’occupent des questions fondamentales de l’IA?

  1. Pingback: De l’intelligence artificielle aux transhumains : l’humain alternatif? | Sylvie Bédard - La vie 2.0

Partager votre opinion permet d'élever la discussion!

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s