Petit « abécédaire » de la nouvelle vie à l’ère IA – Sylvie Bédard

Depuis quelque temps, je m’inquiète un peu plus chaque jour de la démocratisation maquillée de l’accès aux outils d’intelligence artificielle. Depuis l’écriture de mon livre « Souveraineté numérique | Aux frontières du réel et du virtuel! » en juin 2023, il n’y a pas un seul jour où les avancées en IA ne sont pas phénoménales. Les enthousiastes s’en réjouissent et comme on dit en bon français : ils prennent leur pied! Tandis que d’autres se prennent la tête.

Moi, je me situe quelque part entre les deux… pieds que je prends et les deux hémisphères de mon cerveau qui oscillent. J’observe, j’expérimente, j’éduque à chaque occasion en partageant les avancées en matière de gouvernance, d’éthique, d’enjeux IA et d’innovations basées sur l’IA. Mais pas une seule journée, je n’échappe à la veille sur l’IA et aux méandres de mes explorations et expérimentations.

Je cumule les liens, les documents, les résumés, les images, les fichiers, je suis à me constituer une méga source d’informations sur le sujet. Je peux donc dire que j’en connais un bout sur le sujet et cela, même si je ne suis pas derrière le clavier à programmer la prochaine connerie ou le prochain « miracle » IA.

J’ai joint des groupes sur le sujet IA entre gouvernance, éthique, cybersécurité et évangélisation de l’IA. Ce billet est inspiré de ces échanges qui me donnent parfois froid dans le dos.

Pourquoi s’embrouiller du « comment » ?

Mon choc culturel a eu lieu cette semaine. La gestionnaire d’un groupe d’enthousiastes convertis à l’IA s’est mise à argumenter sur une des publications que j’ai partagée au sujet de la compagnie Dove. Je ne veux pas m’égarer sur le sujet, mais si tu souhaites comprendre ce que Dove a annoncé sous le mot-clic « préservonslavraiebeauté », je t’invite à lire cette publication dans ma page Facebook ou dans LinkedIn (d’ailleurs si tu ne veux rien manquer, suis-moi, ça ne fait pas mal 😉).

J’ai terminé cette publication en parlant de « dignité humaine ». S’en suis des échanges qui m’ont prouvé que nous sommes devant la pire menace générée de l’IA : l’humain lui-même!

Cette jeune femme, selon moi, n’a pas encore 40 ans et déjà, elle est prête à tout jeter par-dessus bord pour défendre à bâtons rompus les bienfaits de l’IA. Mais pire encore, l’inutilité de la valeur « humaine » de créer. Pour elle et ses enthousiastes, pourquoi s’embrouiller du « comment », après tout c’est le résultat qui compte!

Donc, en résumé, que ça soit fait par un humain qui a sué sa vie pour créer, rédiger, travailler sur un concept, tout cela a « zéro valeur » puisque l’important ce n’est pas qui le fait, mais le résultat. A-t-elle raison ou tort? C’est la question fondamentale des prochaines décennies.

Voilà le monde dans lequel nous vivons déjà. La dévalorisation du « 100 % » humain. Au passage, la conviction que tout le monde s’en fout pourvu que ça marche ou que ça soit invisible à l’oeil nu.

La prémisse de base est simple : maître de tout, maître de rien! Et c’est parfait ainsi. On peut alors se dire traducteur, graphiste, rédacteur, correcteur, chanteur, compositeur musical, même stratège marketing etc.

Pourquoi pas, après tout ChatGPT et ses concurrents n’ont rien inventé, ils ont puisé tout leur savoir dans le nôtre. Leurs idées et réalisations sont donc généralement super impressionnantes surtout pour la personne ignare qui soudain se sent brillante!

J’aime bien avant l’histoire du mécanicien qui facturait 100$ pour un coup de marteau en se justifiant que le coup était à 1$ et savoir à quel endroit cogner 99$. Le savoir avait une valeur. Comme ce gars qui annonce ses services et met en valeur ses connaissances et son expertise. Le résultat avait une réelle valeur avant l’IA et en effet, le temps pour faire ledit travail rapportait à celui qui le faisait le plus vite grâce à son expertise durement acquise.

Nous sommes encore dans la phase d’émerveillement. Comme un nouveau couple à ses débuts, tout est magnifique! Nous sommes séduits, conquis et l’avenir semble radieux. Nous imaginons le monde de licornes aisément sans penser aux dragons qui finiront par cracher le feu si nous fermons les yeux sur les doutes qui s’accumulent au fil du temps.

Nous voulons croire tout ce que nous voyons et entendons jusqu’au jour où on devient paranoïaque parce qu’on se méfie de tout sans pouvoir distinguer le vrai du faux et le faux du vrai.

J’ai un petit message pour tous les « tatas » (au sens figuré québécois) du monde qui pensent que se faire remplacer par l’IA est juste une utopie qui n’arrivera jamais et que nous ne récolterons que les bienfaits de déléguer nos compétences ou pirater celles qu’on n’a pas à une IA.

Ce petit message vient sous la forme d’un conseil : faites des économies pour vos vieux jours pendant que la confusion règne entre les adeptes de l’IA et ceux qui ne comprennent toujours pas l’acronyme IA. Parce que si vous pensez que vous êtes le seul fin finaud à prendre des raccourcis pour effectuer vos tâches, prenez une bonne gorgée de café et laissez la caféine réactiver vos neurones.

La valeur de tout travail a toujours été une question d’offre et de demande. Même si la valeur du travail à l’heure est remise en question depuis fort longtemps, et que moi-même j’ai prêché pour un travail livré clé en main à un prix fixe, la livraison d’un service capable d’être fait par n’importe quelle personne qui sait poser la bonne question à une IA ne peut pas faire autrement que se dévaloriser avec le temps.

Lorsque ton fils de 14 ans qui peine à réussir son secondaire 3 est capable d’écrire un plan d’affaires étoffé ou une dissertation sur les composantes du noyau de la terre en moins de 3 minutes, je pense que le point est fait. Faut-il applaudir ou s’inquiéter?

La valeur du savoir perd sa valeur à la bourse du travail

Investir dans notre cervelle a toujours été un gage prometteur de réussite et de succès financier dans la vie. Lorsque j’étudiais au CEGEP, on parlait de la société des loisirs vers l’an 2000. Personnellement, je la cherche encore. J’ai simplement changé mes activités de jeux en groupe et de télévision, en écoute Netflix et cie ou en jeux solitaires devant un écran de cellulaire. Une société de loisirs implique que l’argent va rentrer tout seul pendant que nous pouvons nous divertir.

Je pense que cette utopie habite les fervents admirateurs de l’IA. Lorsque la calculatrice est arrivée, nous avons cessé de calculer manuellement. Une bonne chose, mais qui peut le faire maintenant sans une calculatrice en main?

Essayez d’appeler la personne la plus importante dans votre vie si votre téléphone est mort, vous ne serez même pas capable de vous rappeler de son numéro. La dégringolade de notre cerveau est déjà bien commencée.

Apprendre est pourtant une phase importante du développement cognitif du cerveau. Je suis sérieusement inquiète pour l’avenir si nous ne prenons plus le temps d’apprendre le raisonnement, les règles de base en grammaire, en mathématique, en chimie, en physique etc. Deviendrons-nous les esclaves volontaires des IA pour répondre à toutes nos questions?

Parlant de divertissement, je me suis d’ailleurs bien amusée en expérimentant un logiciel qui crée de la musique. J’ai copié les paroles d’une chanson que j’avais écrite en 2009 pour tester SongSmith avec ma voix. Aujourd’hui, cette même chanson a pris un nouvel envol sous la magie de l’IA, je vous laisse juger par vous-même de l’évolution de ma chanson Go! T’es capable.

En 2009 avec SongSmith : https://www.youtube.com/watch?v=g-rfawZkcZ0

En 2024 avec l’IA : https://www.youtube.com/watch?v=qzSQ9I0Uvqw

Ma voix et la musique étaient clairement la principale lacune de la version 2009. Mais imagine maintenant que la version 2024 (avec une vidéo montage très compliquée en 2009) n’ait pris que 63 secondes à faire. Aucun droit à payer à qui ce soit et pour que je sache, cette version pourrait devenir un succès si je la commercialisais.

Avec cette expérimentation inoffensive aux premiers abords, croyez-vous que les artistes aient de beaux jours devant eux ? L’industrie de la musique vient d’encaisser un autre coup de massue après Spotify et iTunes. N’importe quelle personne qui ne connaît même pas ses gammes de musique, incluant moi, peut créer de la musique. Encore pas si mal, j’ai pris le temps de composer les paroles avec mes intentions et émotions 100% humaines.

Mais il suffit de faire une commande du genre : Une chanson qui donne le courage dans les jours plus difficiles pour continuer sur un air de style ver d’oreille. Pouf! Quelques secondes plus tard, une chanson « Toujours debout! » est proposée : paroles par une intelligence artificielle qui imite la pensée humaine, musique, voix, vidéo avec paroles de karaoké et image de pochette. Tu n’aimes pas la version, demande un remix.

Ça ne coûte rien. La création sans fin pour tous les « tatas » de la terre. Ici, certains appellent cela l’évolution. Pour ne pas accélérer la bêtise humaine, je me suis fait un point d’honneur de ne pas faire la promotion des outils IA, pas facile. Je suis certaine que j’aurais des milliers de « followers » si j’allais dans cette direction.

J’aime bien la citation d’un membre du groupe privé sur l’IA, tout est dit :

Vous savez quel est le plus grand problème avec toutes ces choses poussées par l’IA? C’est dans la mauvaise direction. Je veux l’IA pour faire ma lessive et ma vaisselle afin que je puisse faire de l’art et écrire, pas pour que l’IA fasse mon art et mon écriture afin que je puisse faire ma lessive et ma vaisselle.

On ne peut rien contre l’évolution pas plus que pour la bêtise humaine

Il y a encore ce fichu paradigme qui colle comme une sangsue à l’idée que l’évolution inclus des êtres inorganiques comme l’IA. L’évolution selon la théorie de Darwin est basée sur l’idée que les espèces doivent s’adapter à leur environnement ou mourir. C’est prouvé depuis la nuit des temps.

Mais Yuval Noah Harari, l’historien et auteur qui s’évertue à expliquer l’évolution du monde et le piratage de l’IA est formel : l’IA est cette intelligence qui se compare à un extraterrestre qui débarque parmi l’humanité. L’évolution de l’humanité est donc soudainement piratée par l’IA. Une intelligence capable de décider par elle-même.

Le cours normal de l’adaptation à son environnement naturel est impossible dans ce contexte puisque l’IA n’est pas naturelle, elle est virtuelle. Sans électricité ou connexion Internet, elle n’existe pas. Sans de méga entrepôts de serveurs, cette intelligence qui consomme plus d’eau et d’électricité qu’on ne peut fournir à long terme, ne peut exister.

Elle tient à un fil sur lequel nous marchons sans filets, sans balises et avec une insouciance humaine qui fait craindre le pire pendant que l’euphorie du moment règne en roi et maître.

Et le pire, il est déjà en marche avec les cybercriminels qui exploitent ce nouvel Eldorado au profit du crime et leurs semblables qui utilisent l’IA pour tuer la démocratie ou pour la convertir en autocratie. Et une autre caste qui se permet de tuer les vrais emplois pour s’enrichir en croyant que s’embrouiller du « comment » est une perte de temps.

Que la productivité justifie tout, tout comme les profits sans conscience socioécologique sont acceptables. Comme je l’ai répété mille fois dans mon livre, nous sommes au début de cette révolution de l’IA. Le pire on ne l’a pas encore vu si nous continuons à faire les autruches et jouer la carte de l’impuissance devant ce fléau déguisé en « évolution ».

Il y a de belles opportunités engendrées par l’IA, il n’y a aucun doute à ce sujet. Je ne serais pas si préoccupée de nos choix pour l’avenir si je croyais le contraire. Mais la dignité humaine doit prévaloir. Ironiquement pour combattre toutes les attaques à notre équilibre sociétal, l’IA sera la seule arme capable de combattre une autre IA mal intentionnée.

Dove a énoncé un engagement sans équivoque : DOVE S’ENGAGE À NE JAMAIS UTILISER D’IMAGES GÉNÉRÉES PAR L’IA DANS SES PUBLICITÉS. Ils tiennent à préserver la beauté naturelle qui est leur positionnement depuis longtemps. Certains parlent déjà de « IAwashing » comme le « greenwashing ».

Personnellement, en affichant un logo « rédaction 100% humaine« , j’aurais plutôt tendance à dire que je fais du « HumanPromoting ». La vraie guerre est là. Que restera-t-il aux humains qui perdront leur emploi dans un proche horizon (déjà commencé) ? Faire de la consultation improvisée grâce aux outils IA gratuits qui deviendront très chers lorsqu’ils seront adoptés par la majorité des humains ? Ou faire leurs lessives et la vaisselle pendant que l’IA rédige, crée et organise leur vie misérable et insignifiante?

Lorsque le GAFAM nous revendra notre savoir piraté à fort prix, j’imagine que ce billet prendra tout son sens. Dire que l’un des arguments des évangélisateurs de l’IA est l’accès démocratique au pouvoir grâce aux capacités de créer au même niveau que ces empereurs numériques qui ont les moyens de se payer des adjoints. Nous sommes dans la phase que les vendeurs de drogue utilisent pour se créer des clients et des revendeurs : la drogue gratuite jusqu’à la dépendance totale.

Nul doute que nous vivons une ère fascinante (prononcez à la Charles Tisseyre). Nous bousculons et remettons en question à peu près tout dans la société. Il y a tant d’opportunités qui ne demandent qu’à être saisies, mais encore plus de responsabilités à saisir au passage.

On ne peut pas déléguer à des machines les fondements de l’humanité. On ne peut pas traiter les humains comme des banques de données au profit d’une poignée de milliardaires ou de dictateurs. On ne peut pas dévaloriser la valeur du savoir durement acquis des humains sans prévoir un programme de recyclage des humains jetés aux ordures comme de vieux ordinateurs obsolètes. Et les ajouter aux crochets de la société qui devra les soutenir financièrement pendant que les entreprises qui les ont mis au chômage encaisseront les profits.

La pyramide des besoins de Maslow est déjà en grave danger ; comment pourrons-nous déterminer la réalisation de soi si le comment n’a aucune importance?

Ironiquement, ce qui a permis de différencier l’humain des animaux ce sont bien les capacités de penser et d’exprimer les émotions avec l’art. L’IA s’est emparée de cela en premier après avoir testé ses algorithmes sur notre facilité à être manipulé. On tue l’art humain pour commencer, le programme est assez clair.

Pas une seule personne qui essaie l’IA pour son travail ne pourrait revenir en arrière. C’est de la drogue pure et dure, c’est hautement et dangeuresement addictif. Du fentanyl numérique que nous ingurgitons pour vivre un « high » qui pourrait bien être fatal.

Comme les écrans qui sont devenus la nouvelle plaie pour le développement des enfants et la cohésion sociale. Nous avons maintenant des études pour le prouver. Attendrons-nous 20 ans pour réaliser que c’était une très mauvaise idée de céder notre cervelle à une IA?

Mes collaborateurs ne font déjà plus appel à moi pour une foule de tâches. Ils sont dorénavant propriétaire d’un cerveau infiniment plus brillant dans leur poche. Si ma tête vaut mille mots, l’IA vaut un milliard de têtes. Réjouissons-nous d’être un pixel dans cet océan du piratage cognitif. Et continuons de couper les humains des relations entre eux au profit de notre relation avec l’IA en poche.

Vous saviez qu’Israël qui utilise des drones avec la reconnaissance faciale a un taux d’échec de 10% ? En d’autres mots, 1 fois sur 10, il y a confusion sur la personne visée. Ils appellent ça une marge d’erreurs.

Mais si nous acceptions cette marge d’erreurs pour les vols d’avion, les freins de voiture, les aliments, les opérations chirurgicales, etc. nous serions dans la merde royalement. Ils font la guerre avec que des morts au bilan dont 10% par erreur sans compter tous les dommages collatéraux. La guerre à coup de drones est une escalade sans fin. La réplique de l’Iran n’est qu’une autre étape dans l’escalade. L’IA est au service de la guerre depuis très longtemps et bientôt les « transhumains ou les robots guerriers ».

La guerre avec l’IA comme arsenal n’est qu’une preuve que la dignité humaine n’a aucune importance. La protection de notre priorité absolue en tant qu’humain sur l’IA doit être paramétrée. Aucune marge d’erreurs n’est acceptable si le prix à payer est la vie ou la dignité humaine. Après avoir vu le film « Guerre civile » ce wk-end, j’ai bien l’impression que ce film est une prémonition et ce n’est pas beau lorsque la dignité humaine n’a plus d’importance et que la division des humains se calcule selon les armes dans chaque clan.

J’ignore sincèrement ce que le futur a en réserve pour l’humanité, mais je sais une chose avec certitude : le futur se prépare dans le présent. Et dans ce présent, nous y sommes tous ensemble, avec les « tatas » et les autres. Nous devons nous entendre sur le futur que nous souhaitons réellement.

Je continue d’observer et rapporter mes trouvailles et questionnements sur les enjeux de l’IA. Si le sujet t’intéresse, tu peux lire mon livre ou l’écouter, tu pourrais prendre part à la conversation puisque je l’ai écrit pour tout le monde. Oui, ça inclut les « tatas » aussi et encore plus.

Qui décide de notre avenir?

Pendant ce temps, nos gouvernements se grattent le ciboulot pour déterminer comment faire un usage intelligent de l’IA dans la fonction publique et la place de l’IA dans l’éducation, la médecine, la sécurité et j’en passe. Ce que je constate pour le moment c’est une confusion totale à ce sujet. Nous n’arrivons même pas à un consensus sur les cellulaires en classe, il faut des directives plus de 20 ans après l’épidémie des écrans en classe.

Les entreprises et les gouvernements ne veulent pas manquer l’Eldorado de l’IA étant donné la dérive des revenus qui sont et seront engloutis par ce secteur. Pour se donner bonne conscience, ils soulèvent timidement sur le bout des lèvres les risques.

Ils conviennent à coup de millions de dollars pour investir dans des consultations publiques qui finiront sur les tablettes. Ils tiennent une boule de feu en tentant de rester loin des bombonnes de gaz tout se faisant croire que ce feu sera contenu qu’à ses seuls usages bénéfiques pour les humains.

C’est pour ça que je parle de bêtise humaine, nos dirigeants sont comme des chevreuils figés par les phares au milieu de l’autoroute. Ils laissent l’histoire s’écrire par ChatGPT en pensant que la protection de l’humain est secondaire et que le profit des entreprises est prioritaire. Je défie n’importe qui de me prouver le contraire. Ils veulent, mais hésitent. Ils mesurent les impacts sur leurs prochaines élections.

Les enjeux dont je parle ici ne sont pas liés aux capacités d’organiser des données propriétaires détenues par les entreprises pour faire ce qu’ils n’ont jamais réussi auparavant. Généralement, il ne s’agit pas de l’intelligence artificielle générative dans ces défis. Il s’agit de faire des algorithmes fonctionnels comme des formules mathématiques afin d’optimiser des processus et réduire la marge d’erreurs. Il ne faut pas confondre tous les sujets de l’IA.

Sur ce point, j’aide les entreprises à faire mieux avec leurs ressources pour éviter les pertes de temps. Surtout pas pour congédier les employés ou les releguer à poser des questions à une machine. L’IA au service de la productivité est un bénéfice, mais il faut savoir donner des outils aux humains et non remplacer le cerveau des humains par des outils. Il faut décider de la ligne à tirer de toute urgence.

Et voilà le père reconnu et connu de l’IA, Yoshau Bengio lui-même qui le répète sans cesse que nous jouons à l’apprenti-sorcier. Il me semble que venant du plus grand expert IA, cela devrait allumer des lumières!!! Ce n’est pas parce que c’est compliqué d’encadrer l’IA qu’il faut baisser les bras. C’est justement parce que c’est compliqué qu’il faut relever les manches et trouver des solutions pour trouver l’équilibre entre évolution et régression.

Nous verrons bien lorsque la démocratie sera un concept historique qui sera élu pour nous dire quoi faire et comment le faire! Peut-être que nous désembrouillerons le « comment »!

En résumé, le petit abécédaire de la nouvelle vie à l’ère l’IA est :

Comprendre l’IA et l’IAG (Intelligence artificielle générative)
Expérimenter pour réaliser l’ampleur des capacités de l’IAG
Aiguiser ses sens à la détection de fraudes et d’usurpation d’images, de vidéos et de textes
Donner du sens à son propre travail et de la valeur que nul IA ne pourrait faire.
Participer à la conversation et aux débats de société, ça concerne tout le monde. (tu peux lire ou écouter mon livre si tu ne sais pas où commencer)

Bon printemps! 🙂