La société devrait définir le concept de vérité avant de prétendre le programmer

Depuis la nuit des temps, nos croyances individuelles nous rassemblent, ou nous divisent. Pourtant, une croyance est purement un acte de foi basé sur les convictions collectives auxquelles nous adhérons individuellement. Une croyance n’a aucun fondement autre que l’expérience et le vécu transmis d’une génération à l’autre. Aucune donnée scientifique n’appuie les croyances, c’est ainsi que l’on croit et que tout devient un pur acte de foi que nul ne pourra changer sauf avec beaucoup de faits irréfutables… et encore. Pour les fanatiques religieux, la foi est encodée dans leur ADN.

D’un autre côté, la connaissance est basée sur l’accumulation de données et de faits à qui les uns donnent un sens, et les autres en analysent des théories différentes suggérant un sens tout à fait opposé. Ainsi, au fil d’arrivée, les données procurent un fondement à des convictions appuyées par des faits. Si nous sommes scientifiques, nous appelons cela la vérité et de l’information. Sur l’autre spectre, si nous sommes du côté des sceptiques qui appuient leurs conclusions sur des données différentes, mais tout aussi valables, nous faisons de la désinformation aux yeux de ceux qui détiennent « la » vérité.

Forts de ce constat, les scientifiques sont donc des incrédules qui ne peuvent pas croire à quelque chose avant d’en faire un fait documenté et appuyé par des données. Tandis que les autres qui peuvent croire jusqu’à en mourir à une croyance qui n’a aucun fait pour l’appuyer. Entre ces deux pôles, il y a les faits scientifiques et les convictions individuelles et collectives. Franchement, voilà déjà une polarisation du monde qui explique à plusieurs niveaux bien des tensions et que nous devrons adresser si nous voulons déléguer notre cerveau à une intelligence artificielle.

La certitude des uns et la conviction de la vérité : information ou désinformation?

Vue sous l’angle de la vérité, l’information est tout simplement des données qui appuient nos convictions. Alors si un groupe opposé à nos convictions présente les mêmes données sous une forme d’interprétation différente, ou d’autres données, comment pourrait-on dire qu’il s’agit de la désinformation? Après tout, ce ne sont simplement que d’autres informations qui n’appuient pas nos convictions ou notre « vérité ».

Vue sous cet angle, pour les tenants de la vérité, l’information serait simplement celle qui circule le mieux, le plus vite, le plus loin et qui perdure dans le temps. C’est le genre de débat qui fait rager les environnementalistes avec les climatosceptiques; le « pharmaChien » avec sa pseudo science et les autres qui hérissent les poils devant autant de raccourcis de la vérité; les tenants du vaccin vs ceux qui sont contre les vaccins, etc. Finalement, la liste est aussi longue que vos convictions et celles des autres qui s’opposent à la vôtre. L’Internet a donné beaucoup de place pour la liberté d’expression, mais semble avoir démontré que le jugement collectif est trop souvent limité.

Je me permettrais ici de mentionner le nouveau phénomène des « platistes » qui croient sincèrement que la terre est plate. Après avoir visionné le documentaire sur Netflix « Behind the curve », je suis restée bouche bée de voir autant de gens qui sont loin d’être fous, même plusieurs gens scientifiques qui tentent de prouver que la terre est plate. Il y a même ceux qui tentent de prouver que la terre est ronde, approche différente, même combat. Juste pour dire que seules les données peuvent rendre leur théorie plausible. Même si c’est la chose qui apparaît la plus loufoque depuis la conviction de Galilée, ces « platistes » y croient mordicus… c’est simplement totalement ahurissant. Mais, un doute traversera sûrement votre esprit après le visionnement… mais ça passe vite! Parce que les informations tendent à coller plus facilement si elles s’appuient sur nos convictions, et l’inverse est aussi vrai.

Donc, de la désinformation serait bien plus définie par la propagation de fausses informations volontairement afin de semer le doute et créer le chaos. Ce genre de désinformation est souvent propagée par des groupes de lobbyistes, des saboteurs qui souhaitent influencer le cours d’une élection et tous les groupes qui souhaitent faire taire la vérité d’une manière malicieuse et injuste en dérivant le débat sur d’autres enjeux. La fausse information devient une arme, et ces agresseurs misent sur notre manque de jugement.

L’information juste et partiale serait donc la meilleure défense pour affronter les balivernes de ce monde. Le problème n’est pourtant pas simple: comment départir la bonne information de la fausse et ensuite comment apporter un éclairage non biaisé sur l’interprétation desdites données?

La conscience au-dessus de l’information

Un très grand débat fait rage actuellement dans la société québécoise sur la laïcité de l’état. La neutralité des représentants de l’état est souhaitée par une majorité, mais la mise en application soulève de nombreuses questions. Nous tentons de façon légitime de dire que les signes religieux dans des postes de pouvoir n’ont pas leur place dans notre société. Nous disons haut et fort que votre foi peut rester dans votre vie privée et même si vous la portez en vous en tout temps cette foi, vous n’avez pas à la signaler ouvertement avec une enseigne lumineuse qui clignote comme un avertissement à votre « conviction »  qui prend toutes sortes de formes tels des sous-titres évocateurs qui transportent des années de clivage religieux  : la femme n’est pas l’égal de l’homme, les « juifs » sont des citoyens de second ordre, un couteau est un hommage à votre Dieu qui appartient exclusivement à vos croyances, le crucifix honore le Christ représenté par ses « fidèles » dignes serviteurs, et aussi par les « indignes », et la liste des messages est aussi longue que les écrits religieux qu’ils colportent.

La foi c’est personnel, et comme les Hells Angels qui n’ont pas le droit de porter leur traditionnel symbole de « gangstérisme » en public, leurs activités n’en sont pas moins vivantes même si on ne voit plus leur badge à tête de mort en public. La foi de tout le monde peut vivre en harmonie dans la société sans pour autant perpétuer leur symbole de soumission. D’ailleurs, toutes les femmes devraient s’opposer farouchement à ces symboles de soumission, car dans aucune religion, la femme n’est l’égale de l’homme. Certaines religions n’accordent même pas l’égalité biologique à la femme, et la traitent comme un bien à posséder. Dans notre société, nous disons non à ces barbaries indignes de l’évolution de la société dans laquelle nous vivons. Imaginons maintenant, des milliers d’IA (Intelligence Artificielle) programmées partout sur la planète en fonction de la conscience et la morale à lesquelles nous n’adhérons pas, inquiétant non?

L’intelligence artificielle et l’analyse des données massives : information ou désinformation?

Dans le prochain défi de société qui fait déjà les gorges chaudes, l’intelligence artificielle nous amène à nous poser des questions profondes sur la définition d’information et de la neutralité des données qui la composent. Les grands informaticiens travaillent d’arrache-pied partout dans le monde pour transplanter les données massives cumulées dans les processeurs en algorithmes décisionnels pour toutes sortes d’applications légitimes, et aussi douteuses. À ceux qui ne savent pas de quoi je parle ou qui souhaitent en apprendre davantage, je vous invite à lire les articles contenus dans la catégorie « intelligence artificielle ».

Ces petits génies informatiques arrivent avec leur vérité, leurs convictions et les données cumulées de milliards d’informations qui transpirent des décennies de biais, de convictions, d’iniquité économique et d’injustices sociales. Ils assemblent ces informations du passé pour prédire l’avenir, comme si l’avenir était une suite linéaire du passé. Comme si les femmes sous-payées, les minorités visibles, les personnes handicapées, les religions et j’en passe, allaient continuer d’être traitées comme dans le passé et accepter le verdict d’une machine qui n’aura aucun sentiment et des préjugés bien programmés pour les faire vivre éternellement dans le futur. Une condamnation à la bêtise perpétuelle. Le problème avec les prédictions, c’est que ce ne sont que des probabilités. Si la météo prédit 70% de chances d’averses, nous sortons tous notre parapluie. Mais j’aime croire que le 30% de possibilité de soleil me permettra de sortir ma chaise soleil.

C’est ça la réalité avec les algorithmes, ça donnera toujours un résultat basé sur des probabilités et aucune chance aux faibles probabilités, même si probables. Alors veut-on d’une société qui laissera le soin aux algorithmes décisionnels de prendre des décisions qui miseront systématiquement sur la plus forte probabilité sans donner de chances aux moins bonnes? Moi non. Ce qui est encore plus inquiétant, c’est que ces machines apprennent, cela se nomme l’apprentissage profond « deep learning » et elles vont ajouter de l’intuition au passage. Ce qui a plusieurs conséquences, comme on peut l’imaginer.

D’abord, au bout d’un moment, les créateurs ne peuvent pas expliquer les paramètres décisionnels qu’ils programment eux-mêmes, car des éléments s’ajoutent continuellement rendant impossible la compréhension de la décision de l’algorithme qui est laissé à lui-même. Ensuite, en prenant pour la vérité les données de l’IA, il n’y a plus aucune donnée en dehors des leurs qui s’accumulent. Leurs décisions sont donc toujours les bonnes, car les mauvaises décisions ne sont plus incluses dans le traitement des données. En effet, ces algorithmes tiennent toujours en compte « leurs décisions » comme étant la bonne. À force de choisir uniquement la plus forte probabilité, on finit par obtenir qu’une plus forte probabilité d’une fois à l’autre sur la plus forte probabilité jusqu’à réduire à néant la moins forte probabilité. Voulez-vous que votre vie soit une loterie programmée comme une machine qui fait toujours les mêmes gagnants?

Qui détient la vérité finalement?

À force de se croire supérieur, l’Homme a fini par colporter nombre de balivernes à travers l’histoire. Mais heureusement, il y a toujours eu un autre Homme pour soulever des questions qui remettaient en cause la vérité des autres hommes. La vérité absolue est un concept quasi théorique puisque pour chaque vérité, il y a des milliers de faits qui pourraient prouver le contraire si nous décidons que ladite vérité ne nous convient pas. Toutes les révolutions et les inventions sont issues d’une remise en question des faits et des données connus, l’opposé d’une ligne droite. Nous cassons le moule de l’a priori pour naviguer sur des eaux inconnues. Comment le Web aurait-il vu le jour si nous avions confié les communications aux IA programmées pour la suite du passé?

C’est d’ailleurs le principe du droit, défendre des faits pour en faire des vérités et vice versa. À ce compte-là, il n’y aurait que les scientifiques qui détiendraient la vérité. Que Dieu nous en préserve, car l’avenir m’apparaît bien sombre s’il faut attendre de prouver la conscience pour savoir qu’elle existe. Comment s’assurer que la conscience humaine aura toujours préséance dans les décisions? Comment s’assurer que cette même conscience soit au-dessus des religions et des convictions archaïques qui permettent l’existence de citoyens de seconde classe et prônent encore des dictatures? Et qui va décider à la fin du droit à définir la « vérité », à déterminer l’information non biaisée et à approuver que l’algorithme d’un IA X ou Y est dépourvu de tous biais? De l’avis même des spécialistes, comme Yoshua Bengio, les classes de la société sont très mal représentées dans le monde de la programmation de l’IA, les femmes sont à peu près inexistantes et l’homme blanc et de loin la norme.

Je ne sais pas pour vous, mais en ce moment, je ne vois guère dans la société aucun décideur, aucun gouvernement, aucune religion à qui je confierais la copie de leur intelligence pour la perpétuer éternellement dans un microprocesseur programmé à décider pour nous. C’est pourtant ce qui se passe actuellement.  Nous avons des cerveaux en clonage pour nous aider à prendre de meilleures décisions; à décider d’une sentence d’emprisonnement dans quelques états aux É.-U.; à faire le tri de C.V. pour les sélections préembauche, à traiter des demandes de prêts, à traiter des demandes de remboursements, etc.

Je veux bien le futur amélioré, mais en ce moment, je ne vois que la perspective de perpétuer un passé que nous devons nettoyer de tous ses biais. Il faudra décider rapidement de ce que nous souhaitons programmer et automatiser et des conditions acceptables et transparentes pour le faire. À commencer par identifier clairement la source des données, la propriété desdites données et l’usage prévu desdites données.

J’espère sincèrement que les humains ne perdront pas leur capacité de jugement et ne choisiront pas l’inertie pour défendre leur droit à être humain. Il faut rester vigilant, car le but de toutes les entreprises engagées dans la course à l’IA est de rendre acceptable l’IA aux yeux du public afin ne pas avoir d’entrave au développement et obtenir le maximum de soutien des fonds publics pour combler leur appétit démesuré dans cette économie numérique qui gouverne déjà le monde (voir le rapport critique de l’IRIS sur les retombées économiques de l’IA). Comme je l’ai dit et répète, nous sommes en train de faire comme l’arbre qui fournit le bois pour la hache qui le coupera ou l’allumette qui le brûlera. Même les grands informaticiens, comme Yoshua Bengio, soulèvent des inquiétudes lorsqu’ils voient les entreprises lucratives s’immiscer dans cette course, sans compter les armées affamées de solutions létales. Il y a eu la Déclaration de Montréal : pour que l’humain garde le contrôle sur la machine, mais encore faut-il en assurer la mise en application et la surveillance étroite. Qui sera la police de l’IA est une excellente question, mais surtout qui émettra le cadre législatif « mondial » autour de l’IA?

Moi, ma décision est prise : je n’accepterai jamais que l’IA gouverne ma vie et j’ai bien l’intention de me tenir debout pour empêcher la bêtise numérique d’atteindre un point de non-retour. Déjà nous devons composer avec des chefs partout dans le monde complètement déconnectés de la réalité, de grâce ne les laissons pas décider de notre avenir à un moment si critique pour l’avenir de l’humain. Je vous reviendrai sur quelques réflexions à ce sujet dans les prochaines semaines. SVP ne faites pas l’erreur de fermer les yeux sur ces enjeux, ils comptent tous sur notre inertie et notre syndrome de l’autruche.

Bon jugement dans vos prises de décisions et traiter vos clients comme vous aimez être traités… en humain! La Présence est la clé pour un futur aux dimensions humaines!

PS Si vous pensez que j’exagère, vous pouvez lire cet article qui résume le discours du fondateur de Doctissimo, Laurent Alexandre, qui souhaite que nous en finissions avec les « gilets jaunes » (humains de classe inférieure)… ouf et reouf! Il est la preuve vivante que les données ne donnent pas l’intelligence et encore moins la conscience!

PPS À ceux et celles qui se demandent comment arrêter le TGV de l’IA en marche, ou du moins le ralentir, je dis que l’éveil de notre conscience collective est le 1er pas. Ensuite, il faut répéter et dire à nos politiciens que ce rôle leur revient de nous protéger contre nous-mêmes. Et allez signer la Déclaration de Montréal ne serait-ce que pour réaliser les dangers de l’IA et vous faire une opinion personnelle.

Blogue La Présence des idées

4 commentaires sur « La société devrait définir le concept de vérité avant de prétendre le programmer »

Partager votre opinion permet d'élever la discussion!

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s