Les émotions humaines face à l’IA : la solution ou le talon d’Achille?

Par un jeudi matin où la neige tombait à plein ciel, je terminais de me vêtir pour aller chercher une amie pour enfin partir en direction de l’aéroport. Tout le monde ayant vécu ces moments où se mélangent excitation et anxiété préalable au départ sait que ce n’est pas le moment d’en rajouter sur nos nerfs déjà fragilisés. Or, il n’y aurait pas eu pire momentum pour un appel soi-disant d’Amazon (avec un numéro local de Montréal) qui me demandait via un appel automatisé la question suivante :

« Ceci est un appel automatisé du service de fraudes d’Amazon. Un achat pour un iPhone 13 au montant de 780,34 $ vient d’être fait sur votre compte. Nous suspectons une fraude. S’il s’agit d’une transaction que vous avez effectuée, appuyez sur 2 sinon, sur 1. »

Donc, imagine la scène. Je termine de mettre une botte, j’entends ce message. Mon ordi est fermé. Mon niveau de stress à son maximum, la température extérieure promet des surprises sur la route (et il y en a eues), mon amie m’attend et surtout, j’aurai besoin de ma carte de crédit durant mon voyage. Je ne fais ni 1, ni 2, et j’appuie évidemment sur le 1. Tu me suis toujours? 😉

Alors, qu’aurais-tu fait à ma place?

Je continue.

Alors, immédiatement, la ligne s’active et un préposé me salue. « Bonjour, je suis « whatever » du service de fraude d’Amazon, je suis ici pour vous assister aujourd’hui ». Je lui dis que le moment est très mal choisi que je suis extrêmement pressée. Alors, il me dit « Nous allons faire vite en me rassurant ». Il commence par me répéter la transaction et confirmer que ce n’est pas moi. Jusque-là, le modus operandi est 100% conforme aux étapes d’un service de fraude.

Il continue en me demandant si ma carte se termine par « 1234 », oui. Votre adresse est bien « blabla », oui. Pour fin de sécurité pourrais-je connaître votre dernière transaction au compte? Je lui dis. Votre téléphone est bien « 1111111 », oui. Je vais vous envoyer un code par texto, pourriez-vous le valider svp? Je le fais, étant absolument certaine de la légitimité de cet appel. Et avec le recul, mon cerveau ne fonctionnait plus normalement de toute évidence.

Tout à coup, il me dit : pourriez-vous svp télécharger l’application « Anydesk » sur votre cellulaire? Euh! Pourquoi? Et là, je monte le ton. Il faut savoir que cette application permet de prendre le contrôle de votre appareil à distance. Elle est utilisée par les services de soutien technique. Je dis avec une impatience et un rappel que je suis extrêmement pressée : « Qui me dit que vous êtes d’Amazon ? »

Il me répond visiblement exaspéré: « Voyons madame, comment aurais-je pu avoir toutes vos informations? » Je lui dis, avec les cybercriminels aujourd’hui, tout est possible. Je lui dis que je ne téléchargerai pas l’application et il raccroche immédiatement.

Je suis maintenant en panique totale. Je n’ai pas le choix, je dois aller sur mon compte Amazon, et voir ce qui se passe. Je change mon mot de passe. Je valide mes transactions sur ma carte de crédit. Et croyez-le ou non, ils ont récidivé pour tenter de m’hameçonner à nouveau quelques jours plus tard. Ça commence mal un voyage.

Les émotions au cœur de toutes les stratégies de fraudes numériques, ou pas.

Je lis ce matin quelques articles dans la Presse évoquant ce sujet de la prolifération des fraudes depuis le numérique. La police n’a pas le temps de gérer ça. Comme ils n’avaient pas le temps pour les vols de voitures. Bref! On se sent bien seul lorsque nous vivons un tel cauchemar.

En 2019, j’écrivais un article sur l’urgence de développer son sens critique à l’ère numérique. Cinq ans plus tard, rien n’a changé pour le mieux. Les fraudeurs sont de plus en plus et de mieux en mieux équipés pour nous flouer. Avec l’aide de l’IA, c’est tout simplement ahurissant. J’évolue dans cet univers depuis ses tous débuts et franchement, si je peux me faire « enfirouapée » comme une débutante, je comprends la recrudescence des fraudes.

Je ne vais pas reprendre ici les excellents articles de la Presse qui couvrent en détail tous les angles pour apprendre à se méfier et aiguiser son jugement (tout le monde devrait lire ça):

Texto, la fraude au bout du doigt https://lp.ca/b0EAQG?sharing=true
Fraude : réfléchir un peu avant de cliquer https://lp.ca/aU6XrU?sharing=true
De quoi se méfier… bientôt https://lp.ca/g9x7Pi?sharing=true

Cependant, si je prends le temps d’écrire ce billet, c’est pour aborder le thème des émotions et leur pouvoir pour nous aider à nous élever au-dessus des machines et des cybercriminels. Mais aussi, pour aborder la propension de l’humain à être manipulé si facilement, ce qui fait notre talon d’Achille en cette ère numérique.

J’avais écrit un article en 2013 sur le neuromarketing qui démontrait clairement tous les angles de la manipulation consciente et surtout inconsciente pour obtenir des actions précises de la part des clients. Un autre article sur le marketing de peur, le « darketing » où le parallèle avec les 7 péchés capitaux est expliqué. L’humain est empreint à toutes ses faiblesses depuis la nuit des temps, et devine quoi? Les pirates cachés derrière leurs écrans le savent mieux que quiconque, et les marketeurs qui évitent le marketing de sens également.

Il y a quatre émotions qui semblent fonctionner dans le domaine des fraudes et très bien d’ailleurs :

La cupidité et l’espoir : cette technique se reconnaît par notre désir de profiter d’offres alléchantes ou de placements mirobolants. Ce sont parmi les fraudes les plus coûteuses. Après tout, ne dit-on pas, nous sommes punis par où on a péché? Ce type de fraude fait du mal au portefeuille, mais encore plus à l’ego, car elle nous place dans un état de culpabilité extrême.
La peur et l’urgence : celles-ci sont les plus vicieuses puisque notre cerveau reptilien est à l’œuvre. Notre instinct de survie est au niveau d’alerte maximale et notre capacité à réfléchir est axée sur notre protection immédiate. La tentative de fraude que j’ai vécue plus haut en est un exemple parfait. Lorsqu’une soudaine urgence se pointe, la vigilance devrait aussi s’éveiller (note à moi-même).
La confiance et l’empathie : selon moi, l’usurpation d’identité est la plus nuisible à la confiance. Après une tentative de fraude par un ami qui s’est fait pirater son compte Facebook ou autre, nous devenons méfiants des messages légitimes. Une bonne façon de faire est de valider par un autre moyen lorsque vous avez un doute avec une demande inhabituelle d’une de vos relations. De la même manière que si votre « fils » avec une voix plagiée par l’IA vous appelle pour vous demander de l’argent pour une raison urgente, posez-lui une question personnelle dont vous êtes les seuls à connaître la réponse. Exemple : te souviens-tu de tel ou tel événement, qu’est-il arrivé?
L’amour et la compassion : ce type de fraudes s’étale sur une très longue période puisque l’arnaqueur doit tisser des liens émotionnels très forts pour éventuellement obtenir ce qu’il désire de sa victime. Non seulement, la perte financière est douloureuse, mais à cela s’ajoutent la culpabilité et la honte lorsque ce n’est pas une peine d’un amour naissant. Ce sont souvent des fraudes qui viennent de l’Afrique et qui laissent des traces pour longtemps.

Les émotions sont humaines et les arnaques nous placent inévitablement dans un état de curiosité, de compassion, d’appât du gain ou d’insécurité. Il faut apprendre à gérer ses émotions afin de ne pas perdre la tête. Dès que nous sommes bousculés émotivement, il faut faire preuve de vigilance. Mais nous n’avions pas besoin de l’IA pour nous laisser avoir par des manipulateurs n’est-ce pas?

L’IA veut maîtriser les émotions humaines avec les « EmotionPrompt »

À moins de vivre dans une bulle, l’actualité sur l’intelligence artificielle déferle comme un tsunami selon une foule d’angles d’impact sur nos vies. L’un de ces angles touche particulièrement les armes de tromperies massives pour usurper les identités et travestir la vérité et ainsi augmenter la désinformation et les fraudes. Je parle abondamment de ces phénomènes dans mon livre « Souveraineté numérique » si le sujet des impacts sociaux et l’histoire de l’IA expliqués de manière vulgarisée revêtent un intérêt pour toi.

Si j’aborde le volet des émotions pour l’IA, c’est justement parce que l’IA veut améliorer sa compréhension des émotions humaines. Elle veut développer son intelligence émotionnelle. Elle est déjà en voie d’atteindre la catégorie du spectre de l’autisme avec des émotions de base. Plusieurs études apparaissent à ce sujet, et pour le moment, notre meilleure façon de se distinguer de l’IA serait notre intelligence émotionnelle supérieure. Oui, mais pour combien de temps et surtout une intelligence à dimensions variables. Tous les humains ne sont pas égaux en cette matière.

Une étude a particulièrement attiré mon attention : les grands modèles de langage comprennent et peuvent être améliorés par des stimuli émotionnels. La notion de « EmotionPrompt » y est abordée et des mesures précises sur l’impact des « commandes avec émotions » sont présentées.

C’est-à-dire que si on pose une question à ChatGPT et que nous ajoutons une dimension émotive comme : c’est important pour ma carrière; es-tu certain?; peux-tu me garantir que c’est vrai?; la flatterie fonctionne également, en ajoutant : je sais que tu es capable de me donner un résultat exceptionnel; je crois en toi; etc., les résultats changent.

Selon cette étude, tous ces ajouts à nos demandes améliorent significativement la qualité des résultats. Les IA deviennent donc de plus en plus humaines en fonctionnant selon les principes gagnants du leadership constructif et du renforcement positif. Au rythme où vont les choses, il faudra mettre des gants blancs pour faire des commandes aux IA sous peine de voir leur susceptibilité émerger… que dis-je, c’est déjà arrivé!

Évidemment, je résume le tout bien brièvement, mais le lien pour l’étude complète est ici.

Si l’IA veut nous ressembler, tentons d’être imprévisibles

J’essaie depuis le début de ce blogue d’améliorer la littératie numérique (avec mes deux livres également) après avoir été une évangélisatrice de la littératie financière pendant deux décennies. Notre pouvoir collectif et individuel tient dans notre capacité à développer notre jugement et notre esprit critique. Apprendre à faire confiance à notre intuition peut aussi jouer un rôle si nous prenons le temps d’aller plus loin que le bout de notre nez ou de nos tentations.

En développant notre niveau de connaissances, il est possible d’éviter un maximum de fraudes. Les fraudes ne s’arrêteront pas. Il y a toujours eu des voleurs. Les histoires des pirates des Caraïbes ce n’est pas un concept inventé par Walt Disney. Nous avons des cybercriminels qui surfent sur les eaux de notre cupidité, notre curiosité, notre bienveillance et nos peurs et pour les combattre, il faudra être de plus en plus alerte.

Déjouer une machine ou un pirate est la seule façon de gagner cette bataille. Et pour y arriver, il faut apprendre à gérer nos émotions et à respirer par le nez. Lorsque tout semble urgent, louche, inquiétant, tentant, ou autre… arrête-toi et demande-toi : si je cède à qui profitera ma naïveté ou ma cupudité?

La mobilisation collective est au cœur des priorités

Pour diminuer le nombre de fraudes, il faut donc augmenter le niveau de notre vigilance collective et individuelle. Le rapport du CIQ suite à la consultation publique sur la réflexion sur l’encadrement de l’IA propose des recommandations dont l’une est axée sur l’urgence d’améliorer la littératie numérique des Québécois.es. Je suis 100% d’accord.

Une autre initiative est celle de Fraude-Alerte qui permet à tout le monde de consulter les fraudes en cours ou passées et de rapporter une fraude pour en faire un point de validation si nous soupçonnons une tentative de fraude à notre égard. J’ai d’ailleurs pris le temps de rapporter mes tentatives de fraudes avec les numéros de téléphone utilisés. Je recommande de garder précieusement ce lien, car au moindre doute, la vérification pourrait sauver de nombreuses fraudes.

Imaginons que nous soyons tous informés et que nous participions à rapporter les fraudes… je parie que les fraudes diminueraient drastiquement.

En résumé, il est impossible d’imaginer que les tentatives de fraudes iront en diminuant. En contrepartie, il m’est facile d’imaginer que nous sommes responsables de notre vigilance individuelle. Servons-nous de notre tête et gérons nos émotions pour être plus vite que ces voleurs sans foi ni loi. Gardons aussi notre force distinctive avec l’IA en utilisant nos émotions pour faire la différence. L’intelligence émotionnelle est une solution à la bêtise humaine aussi et nous en avons grandement besoin!

Tu as sûrement une tentative de fraudes à rapporter… Go! Rapporte-la!

PS Tu peux t’abonner à mon blogue ici sur la page en haut pour ne rien manquer ou me suivre sur les réseaux sociaux et pourquoi pas, t’offrir une belle lecture ;)