Le cri d’alarme est sonné : qui s’occupent des questions fondamentales de l’IA?

Intelligence artificielle - avenir humanitéDepuis déjà 10 ans, je soulève les questions éthiques qui pavent la voie du futur en lien avec l’invasion des technologies. Si je fais l’évangélisatrice des outils technologiques depuis leur arrivée dans nos vies, j’ai aussi apporté, chaque fois que je le pouvais, un éclairage axé sur la Présence que je qualifie de primordiale pour les entreprises qui souhaitent avoir de bonnes relations avec leurs clients et employés. Je fais la promotion du marketing de sens, et des affaires de sens parce que j’ai trop vu d’abus et de non-sens.

Depuis quelques temps, je fais régulièrement le constat de dérives importantes avec l’usage invasif des technologies dans nos vies. Si vous suivez ce blogue, nombreux sont les billets qui soulèvent ces préoccupations. Évidemment, j’ai souvent l’impression de crier dans une boîte de Pandore que nul n’ose ouvrir de peur de devoir se poser les bonnes questions et de changer ses habitudes. Tout comme la pluie fait pousser aussi bien les tomates que la mauvaise herbe, mon discours appelle à l’humanisation de nos vies grâce aux technologies, et non la déshumanisation accélérée par l’invasion des technologies, notamment l’intelligence artificielle (IA) dont mon article a suscité quelques réflexions.

Je suis donc très préoccupée par la place que l’IA prend actuellement, et des profondes remises en question que cela suscite pour notre futur. Je vois les enfants en très bas âge être calmé avec le iPhone de papa ou le iPad de maman. Je vois la quasi totalité de mes amis (incluant moi) littéralement enchaînée à leur mobile comme le dernier maillon les reliant au monde réel pendant qu’on ne voit plus ce qui se passe autour de nous, la dernière en lice, une ado happée par un train dans l’ouest de l’île avec les écouteurs et le nez sur son mobile. Je vois des entreprises se demander comment faire pour automatiser leur service à la clientèle avec des chatbots et le dernier en lice à pousser cette logique à l’extrême : Facebook. Il a prouvé qu’en plus de répondre en imitant un humain, que l’IA pouvait prendre le contrôle en apprenant son propre langage!!! Je capote littéralement (lisez pour comprendre les réels dangers). Je comprends qu’Elon Musk ait soulevé un tollé sur cette question contre Mark Zuckerberg. Je ne voudrais pas passer sous silence les dangers connus par les géants des telecoms des ondes cellulaires et du wi-fi, les conséquences sur la génétique et les dérives de discrimination basées sur l’ADN bien amorcées, et la liste s’allonge chaque jour. Et voilà que notre gouvernement accueille en grande pompe et finance un laboratoire sur l’intelligence artificielle ici à Montréal pour Facebook!!! Où est l’argent pour l’institut d’éthique et de gouvernance pour encadrer la place des technologies, et les effets dévastateurs à prévoir, et bien amorcés dans l’humanité?

J’ai lu ce billet d’Arianna Huffington qui m’a confirmé que nous devons agir, c’est urgent. Je me suis permise une traduction, car je pense que le message doit être entendu partout. C’est un billet qi fait écho en tous points à mes préoccupations et très bien documenté. Un extrait qui m’interpelle en particulier, car ils sont nombreux, est celui-ci .

« Lorsque nous avons pris le feu et l’avons mal utilisé, nous avons inventé l’extincteur », a déclaré Tegmark. « Lorsque nous avons eu des voitures et que nous les avons mal utilisées, nous avons inventé la ceinture, le coussin gonflable et les feux de circulation. Mais avec les armes nucléaires et IA., nous ne voulons pas apprendre de nos erreurs. Nous voulons planifier à l’avance. « 

Contrairement à l’IA, la menace des armes nucléaires était, pour des raisons évidentes, très tangible et a été prise au sérieux dès le début – avec des commissions, des débats publics, des traités, etc. Cette menace existe encore (une nouvelle avec l’intelligence artificielle), mais personne ne considère alarmiste de soulever des questions éthiques à ce sujet.

Je me pose donc aux côtés de plusieurs personnes inquiètes pour notre avenir pour propager la nécessité d’un débat public sur ces questions et de confier à des « vraies » humains, conscients et altruistes la responsabilité d’encadrer ces développements technologiques pour l’avenir de l’humanité. N’allez surtout pas croire que je suis contre le progrès et les technologies, sinon vous me connaissez très mal. Mais à force de dériver les ressources dans quelques poches, phénomène pour lequel on se révolte sans rien faire depuis fort longtemps, il ne faudrait pas que nous soyons l’arbre qui fournit le bois pour l’allumette! Après l’argent, le pouvoir et le contrôle absolu, sommes-nous prêts à descendre dans la chaîne de l’évolution en tant qu’humain?

MERCI DE PARTAGER ET ENCOURAGER LA DISCUSSION, MAIS SURTOUT D’EN FAIRE UN ENJEU PRIORITAIRE AUPRÈS DES GOUVERNEMENTS. IMAGINEZ QUE L’IA DÉCIDE DE NOS PRIORITÉS UN JOUR, CROYEZ-VOUS QUE LA QUALITÉ DE L’AIR SERAIT PRIORITAIRE PAR RAPPORT AU BESOIN D’ÉNERGIE, OU QUE LA FAIM DANS LE MONDE SOIT PRIORITAIRE PAR RAPPORT À LA PRODUCTION DE PUCES?

 

Tiré du texte original : We’re Drowning in Data But Starved for Wisdom

Nous nous noyons dans les données, mais nous sommes affamés de sagesse

Ce n’est pas seulement l’éléphant dans la pièce, c’est l’éléphant dans l’univers – et l’éléphant est encore un nouveau-né. Je parle du développement de l’intelligence artificielle et de la façon dont nous pouvons être préparés pour ce qui se passe lorsque, comme l’a dit le , du MIT, Max Tegmark, «les machines nous dépassent à toutes les tâches». La nécessité d’avoir cette conversation «la conversation la plus importante de notre temps « , fait l’objet de son nouveau livre, Life 3.0: Being Human in the Age of Artificial Intelligence, que je viens de terminer. C’est l’un de ces livres que vous ne pouvez pas non plus mettre sur pause, et que vous appelez instantanément vos amis et que vous les pousser à le lire au plus vite. Lire la suite

De l’intelligence artificielle aux transhumains : l’humain alternatif?

humain-alternatifMenace sur l’humanité ou évolution inévitable?

Je fonce illico dans le vif du sujet en partageant rapidement la définition de l’intelligence artificielle (IA) qui se résume par l’ensemble des disciplines scientifique et technologique relatives au traitement des connaissances et au raisonnement, dans le but de permettre à une machine d’exécuter des fonctions normalement associées à l’intelligence humaine : compréhension, raisonnement, dialogue, adaptation, apprentissage, etc. Quant à la définition des transhumains, telle que définie par le courant de pensée connu sous le vocable de transhumanisme, elle repose sur l’idée que la convergence de quatre grandes techniques – nanotechnologies, biotechnologies, informatique et sciences cognitives – dite convergence NBIC, permettra le basculement de l’humanité vers un type d’individus capables de s’affranchir de leurs limites physiologiques et psychiques[1].

Comme vous le constatez sans doute, nous parlons de réalité augmentée via les technologies grâce à la connaissance humaine dans un cas, dans le but d’imiter l’humain voire le remplacer à certaines tâches répétitives et prévisibles, et à l’autre spectre dans le but d’améliorer les capacités humaines en le modifiant grâce aux technologies ou à la pharmacologie. À la fin, dans un cas ou l’autre, viendra un jour, où la différence en un cyborg ou un humain « amélioré » sera si mince que le simple mortel non augmenté fera figure d’être non évolué (dinosaure du futur) et prendra une place au dernier échelon dans la chaîne des bipèdes. Avant de protester à cette vision dégradante de l’humain, voire apocalyptique, réfléchissons à un futur prévisible si les choses demeurent comme elles sont en ce moment.

L’intelligence artificielle nourrie de l’expérience humaine

L’idée de ce billet est de mettre en lumière le glissement lent, mais inévitable, vers une quasi totale déshumanisation du système, d’abord économique. Par exemple, au début de ma carrière, je travaillais dans le milieu bancaire. À l’aide de quelques critères décisionnels, je devais approuver des prêts à des individus ou des entreprises et en assumer la responsabilité (ma crédibilité principalement et mon rendement) en cas de non-paiements. C’était plus un art qu’une science, car vous devinerez que plusieurs prêts étaient octroyés sans que les critères purement économiques ne soient entièrement satisfaits. Nous appelions ce critère décisif : le jugement. Au tournant de la récession dans les années 80, les prêts délinquants passés aux pertes ont atteint des records dans les institutions financières. Avec l’arrivée de l’intelligence artificielle, les agences de crédit et le milieu financier ont mis leurs ressources en commun dans le but d’extraire l’expérience des cerveaux des directeurs de crédit afin d’établir des algorithmes d’aide à la décision de crédit. Ce fut dès lors, des « machines » qui prenaient les décisions grâce à de savants algorithmes de prédiction. Dans ce nouveau modèle d’analyse de crédit, les prêts qui ne satisfaisaient pas les critères de la « machine intelligente » étaient soumis à une instance supérieure, appelée « expérience humaine ». Ici, encore, vous devinerez que le nombre d’acceptations des exceptions furent de plus en plus… disons exceptionnelles. Les responsables ne voulant plus se confronter à la décision de l’intelligence artificielle de peur de se faire reprocher de manquer de jugement et d’être moins futés que ladite « machine » en cas de décision erronée. Lire la suite