Crépuscule de la vérité
#26 - deepfakes, sagesse et œil du cyclone
👋 Hello, c’est Julien !
J’espère que tu vas bien.
Bienvenue dans l’édition #26 de Screenbreak 💌
Dans un passé lointain (il y a presque 10 ans, aïe), je passais les concours d’entrée en école de commerce.
Une période où j’étais encore capable de me concentrer pendant 4 heures d’affilée, pour un examen.
En philosophie, une des matières principales, le thème de l’année était la vérité.
Le sujet de dissertation sur lequel on plancha pour HEC fût « Crépuscule de la vérité ».
J’avais adoré cette formule.
M’en remémorant récemment, je me suis dit qu’elle collait à notre nouveau paradigme.
Quand j’ai vu il y a quelques mois cette image devenue virale du pape, j’y ai cru.
Cette création, malgré sa drôlerie, soulève beaucoup de questions qui méritent d’être posées.
📝 Au programme du jour
Les deepfakes et l’arrivée de Sora
Un rapport à l’information bouleversé par le numérique
La post-vérité & la sagesse
L’œil du cyclone
🕑 Temps de lecture : 6 min et 13 secondes
Tu peux aussi :
Lire certaines des précédentes éditions 😎
Me suivre sur LinkedIn où je publie quotidiennement ✌️
Let’s goooo
🤥 Les deepfakes et l’arrivée de Sora
Le 15 février 2024, OpenAI (l’entreprise qui a créé ChatGPT), a annoncé la sortie prochaine de Sora.
Un moment historique : c’est la première IA générative « text-to-video ». C’est-à-dire qui peut créer une vidéo à partir d’un prompt textuel.
Après le texte via ChatGPT, et l’image via Midjourney, c’est un nouveau cap qui est franchi.
Voici un exemple que l’entreprise a partagé 👇
Prompt : Vidéo historique de la Californie à l'époque de la ruée vers l'or.
C’est un fait : l'IA progresse de façon vertigineuse.
Peu surprenant tant les efforts pour la développer sont colossaux.
OpenAI a déjà levé 11,3 milliards de $, et compte sur des montants bien plus élevés très bientôt.
La bataille fait rage avec Google et les autres géants technologiques : on peut donc imaginer l’escalade à venir dans les prochaines années.
Ce constat, on peut s’en émerveiller ou s’en inquiéter. Aujourd’hui, je vais plutôt parler de mes inquiétudes, avec un angle spécifique.
Avec Sora, une ère nouvelle s’ouvre : la création de vidéos d’un réalisme troublant va devenir monnaie courante. C’est une question de semaines.
La conséquence directe de cette démocratisation va être le passage à l’échelle et l’amélioration brutale des deepfakes, qui existent depuis déjà quelques années.
Un deepfake est un contenu généré par IA qui superpose des images et des sons existants pour créer des contenus faisant apparaître des personnes disant ou faisant des choses qu'elles n'ont jamais dites ou faites.
D’après ce que j’ai lu, il semble encore aujourd’hui difficile de produire une vidéo vraiment convaincante en quelques minutes. Mais ce sera vraisemblablement le cas d’ici peu.
Les dangers sont multiples : manipulation, désinformation, diffamation, entre autres.
La superstar Taylor Swift a par exemple été victime d’un deepfake porno début février.
Des images et vidéos troublantes de réalisme ont circulé sur X, jusqu’à atteindre, pour l’une d’entre elles, 47 millions de vues.
Ce cas médiatisé est l’arbre cachant la forêt. Moult détournements du même type sont rendus possibles.
Un autre exemple plus cocasse 👇
Pensant être en visio avec son directeur financier et des collègues, un employé d’une multinationale hong-kongaise a transféré 25 millions de dollars à des escrocs.
Cette technologie va fatalement catalyser la diffusion de fausses informations avec un réalisme sans précédent.
Distinguer la réalité de la fiction va devenir de plus en plus ardu.
Jusqu’à présent, les manipulations pour tromper étaient coûteuses et/ou chronophages (Photoshop semble loin)
Elles vont devenir quasi instantanées et à la portée de tous.
Et pour l’instant, les technologies de fact-checking ne semblent pas progresser sur le même tempo…
Notre rapport à la vérité a commencé à changer avant l’arrivée de l’IA générative, mais celle-ci va appuyer sur la pédale d’accélérateur.
Sora veut dire « ciel » en japonais. Avec Sora et ses héritiers, la vérité pourrait-elle disparaître derrière l’horizon ?
🐣 Un rapport à l’information bouleversé avec le numérique
Bien avant l’éclosion de l’IA générative, le numérique avait déjà modifié notre relation à l’information, au savoir, et à la vérité.
On est plongé dans un océan d’informations, avec l’impression d’être toujours plus perdu dans le tourbillon.
Dans un monde saturé d’informations, savoir capter l’attention est logiquement devenu l’or noir des géants technologiques.
Quand le temps de cerveau disponible diminue, il faut l’attraper à tout prix (c’est le cas de le dire 💸).
Et pour ce faire, rien de mieux que le sensationnel, le clivant. Bref, ce qui déclenche des émotions instantanées, qui parlent à nos inclinaisons naturelles.
Cette course effrénée pour l'attention a érigé ces tactiques en normes de communication.
Résultat 👉 la vérité est souvent sacrifiée sur l'autel de la viralité, de l'urgence et de l'émotion.
L'information est consommée en rafales instantanées, au détriment de la profondeur et du contexte.
On s’accommode généralement de l’information sans en connaître les tenants et les aboutissants.
Selon une étude Ipsos de fin 2022, 36% des 16-30 ans disent s’informer au moins une fois par jour via Tiktok 👇
Sur chaque dossier, il apparaît immensément complexe de s’y retrouver. Et donc, de démêler le vrai du faux.
Cette inflation informationnelle nous procure une grande incertitude.
Dynamique qui cultive un environnement où le discernement, notre capacité à évaluer et comprendre pleinement quelque chose, se fait rare.
Submergés, on distingue moins précisément le significatif et l'insignifiant.
Jouant sur nos habitudes, notre manière de consommer l’info nous a désappris la recherche de profondeur et de hiérarchisation. On reste généralement sur du surfacique.
Cette mécanique est d’autant plus problématique qu’avec l’IA générative 👉 chacun pourra se transformer en une fabrique de contenu, capable de produire du fake en une poignée de secondes.
La post-vérité et la sagesse
Voici la définition générique de la post-vérité 👇
« Circonstances dans lesquelles les faits objectifs ont moins d'influence sur l'opinion publique que ceux qui font appel à l'émotion et aux croyances personnelles ».
Des questions fondamentales se posent sur la manière dont nous forgeons notre compréhension du monde à l’ère de l’hégémonie numérique.
La post-vérité, c’est là où le doute et le relativisme règnent en maîtres.
J’ai cette impression d’une résurgence de ce phénomène, une difficulté croissante à s'accorder sur des vérités communes.
Dans cette période de doute généralisé, chaque individu façonne sa réalité par rapport à ses émotions.
Des « bulles cognitives » apparaissent : les algorithmes nous proposent une vision du monde conforme à nos attentes. Les faits que nous rencontrons ne font que renforcer les croyances pré-existantes.
Le risque, si on se projette un petit peu, c’est ce que dit Emmanuel Brochier :
« La post-vérité, c’est le ravalement de la vérité à un combat d'arrière-garde. Le point de basculement, ce n'est pas tant que la vérité est falsifiée. Le piège est qu'elle devienne insignifiante.»
Ce ne serait donc plus seulement la capacité à discerner le vrai du faux qui serait en jeu aujourd’hui, mais aussi notre propension à rechercher la vérité.
Nous ne chercherions plus la vérité mais simplement à exister et « clamer » quelque chose à la face du monde.
Statistique symbolique, vue dans l’édition sur les splendeurs et misères d’Instagram 👉 40,1% des 18-33 ans choisissent une destination de vacances pour le potentiel d’« Instagrammabilité ».
Si on veut malgré tout s’approcher de la vérité, notre esprit critique et notre intellect seront fatalement des alliés précieux.
Manque de bol, c’est précisément ce que la crise de l’attention appauvrit.
L'ère numérique, débloquant un accès illimité au savoir, promettait une société plus informée et rationnelle.
Avec l’autre main cependant, elle vient inhiber les compétences nécessaires pour analyser et contextualiser.
Le « Wisdom Gap » ou « fossé de la sagesse » est un concept que j’affectionne particulièrement.
Il désigne l’écart entre :
Des problèmes toujours plus complexes et interconnectés
La capacité à les résoudre qui décroît
La technologie n'est pas la seule cause de ce fossé, mais son emballement fulgurant vient le creuser.
Les avancées technologiques, même créées avec de bonnes intentions, sont des amplificateurs du « flou ».
Le terme de sagesse est d’ailleurs le point culminant de la pyramide DICS 👇
Aujourd’hui, l’information est abondante, la connaissance rare, et la sagesse une exception.
Cette dernière représente la capacité à émettre des jugements pertinents, en considérant les implications éthiques, morales, et sociétales de nos actions.
Une qualité pertinente quant on pense aux grandes crises de ce siècle, mais dont certains aspects du numérique nous éloignent.
Beaucoup disent que l’IA, comme toute technologie, serait neutre en soi, ni bonne, ni mauvaise. Et que tout dépendrait uniquement de l’usage que l’on en fait.
A contrario, Victor Fersing disait récemment :
L’innovation technologique encode des pratiques et des valeurs dans les sociétés qui les adoptent. Lorsqu’une nouvelle technologie est adoptée, elle interagit avec la société humaine, un système complexe. Aussi, l’effet produit par l’adoption d’une technologie est très largement incertain.
Je suis d’accord avec cette idée. Pour cette raison, je ne suis pas un techno-ultra-optimiste. J’ai du mal à voir ces opportunités sans regard des conséquences potentielles pour l’humanité.
Le progrès technique n’est pas synonyme de progrès du bien-être général.
🌪 L’œil du cyclone
Près de 6 Français sur 10 ressentent un « trop-plein d'information » qui « empêche de prendre du recul ».
Difficile en effet de ne pas se sentir un peu désorienté dans ce bazar. J’en fais partie.
Quand on pense à l’idée de crépuscule, on peut le voir comme un déclin inéluctable et s’y résigner.
On peut aussi l’imaginer comme le moment où l’on peut regarder le soleil sans se brûler.
Ta perception du monde se résume à la sélection des informations que tu ingurgites et à l’attention que tu leur portes.
En bref, il faut limiter la quantité, choisir la qualité et s’y pencher en profondeur. Pour enrichir l’esprit sans le submerger.
Ancien aficionado quotidien de Twitter, je minimise par exemple désormais le temps passé dessus.
Pour m’informer, j’évite la plupart des réseaux sociaux, et je me concentre sur des sources plus longues, réfléchies, et structurées 👇
Livres
Podcasts
Documentaires / Vidéos YouTube
Newsletters
J’essaie de ne pas tomber dans le piège de l’instantané. Alors oui, je loupe certaines informations, mais je me suis rendu compte que ce n’était pas très grave.
J’aime parler de l’oeil du cyclone : c’est le seul endroit calme de la tempête, où l’on peut observer le déluge sans se faire emporter.
C’est un changement de posture, un pas de côté.
Jenny Odell dans How to do nothing, évoque ce changement par le passage du FOMO (fear of missing out) au NOMO (necessity of missing out).
Loin d’être une perte, le NOMO peut être un gain de clarté et de sanité cognitive dans le monde actuel.
Le crépuscule, c’est aussi l’opportunité de contempler la lumière avec sérénité.
—
C’est tout pour l’édition d’aujourd’hui. Curieux d’avoir ton feedback, notamment si tu t’intéresses à l’IA.
Si tu as aimé, clique sur le petit bouton ❤️ en bas de l’article !
Et partage cet article et la newsletter autour de toi, c’est comme ça que le projet grandit 👀
On s’approche des 1000 abonnés !
A la semaine prochaine 💌
Julien
Sources :
Brillant. Admissible à HEC après une telle démonstration ✅
Ça laisse effectivement un peu sans mots mais merci Julien pour cette prise de recul et ces réflexions !