On a rencontré Serge de York pour parler d’intelligence artificielle et de son deuxième album Cool Apocalypse, histoire futuriste accompagnée d’un moyen-métrage de vingt minutes.
La Face B : La première question, c’est la plus sous-cotée de l’histoire. Comment ça va ? Comment tu te sens ? Personne n’y répond vraiment, mais moi je te demande d’y répondre pour de vrai.
Serge de York : Ah ouais, on commence direct comme ça… Est-ce que je vais devoir te payer ?
LFB : Je prends la carte vitale.
SDY : Alors on fait en sorte d’aller. Personnellement, tout va bien. Je suis très content que l’album sorte. On a fait une résidence pour tester le concert immersif… Et en même temps, comme tu sais, c’est toujours difficile de sortir un disque en tant qu’indépendant. Même s’il y a un label et un distributeur, le rapport entre travail fourni et résultat obtenu est souvent frustrant.
LFB : Bien sûr. Ça fait une semaine que l’album est sorti. Est-ce que tu as des retours ?
SDY : On a utilisé le budget des relations presse pour faire le court métrage… Alors je fais la relation presse moi-même. On a déjà quelques retours sympathiques. On a eu une playlist officielle sur YouTube. On commence seulement la partie relations presse, radio, etc. Je n’ai pas encore beaucoup de recul et on va essayer de faire vivre l’album pendant quelques semaines, voire quelques mois. Tu vois, pour cet après-midi, j’ai imprimé ma liste de radios pour envoyer le disque et le communiqué de presse. On espère que ces contacts feront des petits.
LFB : Une question qui n’a rien à voir : je vois que tu as deux sachets d’infusion en même temps dans une seule tasse.
SDY : Tout à fait, tout à fait. Manque de temps absolu et début de la folie (rires). J’ai ma tisane de ce matin que j’ai oubliée, je l’ai lancée puis oubliée, alors en revenant cet après midi, lorsque je m’en suis aperçu, j’ai mis un deuxième sachet, pour optimiser la théine, tu vois…
LFB : Et ça tombe bien, parce que je pense que ça va être une interview autour du chiffre 2. Le sort en a décidé ainsi. Cool apocalypse c’est ton deuxième album, et ça n’est pas qu’un objet : parce que c’est un disque, mais aussi un moyen métrage.
SDY : En effet.
LFB : Le premier album, Au nord de nulle part, était plutôt une somme autobiographique : une présentation de ton personnage. Mais le deuxième album raconte une histoire dans laquelle tu n’es pas présent. Pourquoi ça avait du sens d’écrire une histoire cette fois ?
SDY : Très bonne question. Le premier album était plus un journal intime qu’un album. Une sorte de catharsis. Et après avoir bien squatté chez la psy, je n’avais plus trop de nouvelles thématiques à traiter. Il y avait eu l’enfance, le rapport au père, à la mère, à l’amour, à l’isolement, aux addictions… Je n’avais pas envie de me répéter.
LFB : C’était archivé.
SDY : Oui, d’une certaine manière. Mais hélas, je ne fais pas de la pop sympathique. Le sentiment que procure un rayon de soleil ou une belle soirée entre amis ne sont pas des thématiques qui m’inspirent. Alors j’ai pensé à cette thématique de la data et de l’Intelligence Artificielle.
Il y aussi un détail important : c’est que c’est mon métier, à côté de la musique.
Je vois tous les jours des choses qui me font croire qu’on va pouvoir changer les choses avec l’IA. Mais 10% du temps c’est vers le bien, 90% du temps, j’ai plutôt la sensation qu’on atteint un point de non-maîtrise avec des conséquences assez inquiétantes sur l’existence de l’humanité.
J’ai commencé à écrire plutôt pour moi, pour réussir à me dire : l’IA est une technologie neutre, ce qui compte c’est l’usage que l’on en fait.
LFB : Et justement, ça faisait partie de mes questions. C’est ce que tu écris dans ton dossier de présentation de l’album. Alors, j’imagine que tu parles d’une neutralité morale. J’aimerais bien que tu développes ce point de vue. Je ne sais pas si je suis d’accord.
SDY : Tout l’intérêt de cette proposition artistique, c’est aussi d’ouvrir au débat. Peut-être que je ne penserai plus la même chose dans six mois. Mais ma vision actuelle, c’est celle-ci : l’IA, dans le fond, ça n’est que du traitement de données ; on mobilise un corpus de données pour exécuter une action. C’est tout.
En partant de là, l’IA elle-même est neutre.
Mais il y aussi un biais : n’étant que du traitement de données, elle est orientée par les documents qui la nourrissent et les intentions humaines de ses créateurs. Les gens qui nourrissent, conçoivent et exploitent les IA ne sont pas neutres. Elon Musk, par exemple, a créé une IA anti-woke, ultra-libertaire dans laquelle il n’a mis aucun filtre de bienséance (Grok, NDLR) et qui est capable d’avoir des propos racistes ou révisionnistes… Là on est face à une IA biaisée.
Enfin tout ça est vrai jusqu’à un certain point : parce qu’en ce moment, on arrive à un point où l’IA peut commencer à devenir autonome.
LFB : Mais dans l’essence même de cette technologie, dans ce qu’elle nécessite pour fonctionner, il y a quelque chose d’assez scabreux. Les données qui nourrissent les IA sont utilisées, souvent, sans le consentement de leurs auteurs, et par ailleurs, afin d’entraîner les IA, il est nécessaire de passer des heures à les entraîner, avec des gens qui le font pour une misère ou à leur insu… C’est quand même une technologie basée sur le vol et l’exploitation. Et c’est sans parler de l’impact écologique.
SDY : Ah, je n’ai pas dit que c’était une technologie positive. D’ailleurs, dans Cool Apocalypse, on ne sait pas si le personnage principal, Winston, est le dernier humain parce que l’humanité s’est auto-détruite, ou si c’est parce que les robots ont pris le contrôle et détruit l’humanité.
Dans une étude récente, le FMI estime que d’ici 5 ans, 40% des métiers pourraient être remplacés ou assistés par l’IA et la robotisation. Ça menace d’être la plus grande crise économique jamais connue. C’est autre chose que le remplacement des chevaux par la voiture.
Il y a même des écoles d’apprentissage pour les robots, dans lesquelles les robots observent l’être humain pour arriver à en tirer à des connaissances. Et tout ça ne va pas durer très longtemps parce qu’ils arrivent à apprendre de plus en plus vite par eux mêmes.
Je dis que c’est une technologie neutre, mais qui est très inquiétante si elle n’est pas bien régulée. Et pour l’instant, il n’y a absolument aucune régulation en œuvre…
Si l’on s’intéresse plus spécifiquement à la musique, on a deux écoles. Ceux qui disent : ça n’est qu’une nouvelle technologie, souvenez-vous à l’époque où apparaissait le sampling, les gens avaient déjà un discours alarmiste. Mais pour moi, ça n’a strictement rien à voir. Pour faire du sampling, on avait besoin d’un minimum de connaissances techniques et d’une envie d’accéder à une forme d’expertise. Maintenant, sans aucune formation, n’importe qui écrit une phrase de trois mots et de la musique arrive. Le résultat c’est que 98% des gens ne font pas la différence entre une musique qui est générée par Suno et une musique qui est générée par un groupe avec des humanoïdes.
Peut-être que les passionnés et les lecteurs de fanzines décèleront un manque d’émotion ou d’originalité. Mais le grand public ne fait déjà plus la différence entre la musique générée par une IA et la musique générée par des artistes avec leurs traumatismes et leurs égarements. Et ça, c’est très inquiétant.
Les majors vont se dire : pourquoi se casser la tête à produire des albums qui coûtent des millions alors que l’on peut créer en quelques clics des avatars qui ressemblent aux êtres humains et génèrent des droits facilement. J’ai peur qu’une partie des jobs de la musique soit assez vite balayée par les personnes qui y participent dans la perspective de gagner de l’argent.
Paradoxalement, tu n’as jamais eu autant d’êtres humains qui font de la musique et qui font des projets.
LFB : On a beaucoup parlé d’IA, mais on n’a pas encore beaucoup parlé de l’album et du film.
SDY : C’est lié.
LFB : Oui, c’est très lié. J’ai quelques questions sur l’histoire, sur le personnage principal, Winston. En écoutant l’album, j’ai parfois eu l’impression que le personnage de Winston n’était pas si éloigné de toi. Est-ce que tu te sens proche de lui ? Et si oui, en quoi ?
SDY : On ne sait pas trop qui est ce personnage dans l’histoire. On sait juste qu’il tape des données à longueur de journée.
LFB : Sur une machine à écrire.
SDY : Absolument. Globalement, Winston est le dernier humain sur Terre qui survit grâce à une IA. On ne sait pas bien si cette IA le contrôle pour son propre bien. Si elle a essayé de sauver l’humanité de sa propre autodestruction, ou si elle y a contribué ; peut-être qu’elle garde Winston comme une expérience, un dernier laboratoire pour comprendre la spécificité de la nature humaine. Lui voit le monde détruit, vide d’êtres humains, et se gave de pilules anxiolytiques et hallucinogènes pour le supporter. Il scrolle sur des images et écrit des rapports hallucinés constitués de zéros et de uns, et il vit aux côtés d’un robot froid, Hespée.
J’espère ne pas trop me projeter dans ce personnage, même s’il y a une partie de mes travers dedans. Tout le monde possède quelques failles qui ressemblent à Winston ; en revanche lui fait le choix lui de se forcer à oublier. Il veut brûler tout ce qu’il reste de souvenirs d’humanité pour ne pas se remémorer ce à quoi il a assisté, et ce à quoi, peut-être, il a contribué.
Le robot Hespée devient finalement plus humain que lui lorsqu’elle découvre des vidéos de l’ex compagne de Winston en train de danser.
LFB : Il y a plusieurs références dans l’album et le film. La première, c’est évidemment 1984 pour le nom du personnage, mais il y en a une autre à laquelle je pense justement en raison du sort du robot Hespée : c’est La possibilité d’une île, de Michel Houellebecq. Tu l’as lu ?
SDY : Oui je l’ai lu, mais ça fait un moment… Je n’ai pas la référence en tête, qu’est-ce-qui t’y fait penser ?
LFB : Moi aussi ça fait un moment. Mais dans mes souvenirs, il y a cette même idée : c’est un cyborg qui narre le roman, un humain augmenté qui a pour tâche existentielle d’étudier la vie de son ancêtre à travers la lecture et le commentaire de son journal intime. Il y dédie son existence, dans une cellule, presque comme un moine. Jusqu’au jour où il finit par accéder à des émotions, et à fuir la cellule où il vit pour aller se jeter dans l’océan. Il y a cette même idée d’un être artificiellement créé qui finit par découvrir les émotions et qui ne s’en remet pas.
SDY : Je n’ai plus aucun souvenir de ce roman, mais effectivement, l’analogie est intéressante. Dans Cool apocalypse, c’est l’humain qui ne veut plus ressentir et le robot qui veut ressentir.
C’est d’ailleurs le fantasme de tous les gurus de l’IA que de donner des sentiments aux robots. Ils se disent que pour dépasser l’intelligence humaine, il faudrait donner aux IA de la vibe. Il y a plein d’expériences en cours, notamment d’essayer de droguer les IA. En leur disant : inspire-toi de ces expériences sous drogues qui sont documentées ici par écrit, et essaye de modifier ton comportement en fonction.
LFB : À plusieurs endroits du film, on veut croire à l’espoir. Croire que Winston va s’émanciper et qu’Hespée va devenir humaine.
SDY : La première version était un peu comme ça.
LFB : Mais tu ne crois pas que ce soit possible ?
SDY : Je l’espère mais je ne le crois pas. Je ne suis pas certain, à l’heure actuelle, qu’il y ait une volonté de résistance. Ni même qu’il y ait une compréhension globale de ce qui se passe, nécessaire pour lancer un tel mouvement de résistance.
Il n’y a pas que du mauvais, évidemment. L’IA peut aussi avoir des utilisations vertueuses : trouver des remèdes pour des maladies graves, aider à résoudre des problèmes d’ordre médicaux. L’énergie que l’on met dans le développement de cette technologie pourrait être utilisée à des fins positives.
Mais ce que je vois, c’est que la majorité des efforts sont effectués pour te vendre de la merde sur les réseaux sociaux, ou pour élire des présidents psychopathes. Le bilan, si je voulais être sincère avec moi même, c’est que l’on va vers un point de non-retour bien plus sombre que lumineux. Mais ce n’est pas pour autant que je le souhaite. C’est juste le sentiment d’impuissance que j’ai.
LFB : On pourrait continuer cette interview très longtemps. Deux dernières questions : il y a un texte très énigmatique qui achève le court métrage. « Nous nous mouvons en ligne, figures fractales, dans une danse sans fin et sans morale ». Il vient d’où ce texte ?
SDY : Et ben tu vois, c’est le plus fou. Tout l’album a été fait sans IA : sauf cette chanson là. Elle est entièrement écrite par l’IA. J’ai fait un brief à Suno, je lui ai raconté l’histoire, et je lui ai dit : tu es Papa Algo, une IA qui a vu la fin de l’humanité, et qui raconte son sentiment. Tu dois le faire dans une ambiance de musique contemporaine, façon « Arte à trois heures du matin ». Voilà le résultat. Quand j’ai entendu cette phrase… « Sans morale », j’ai complètement flippé.
Je me suis dit : on va finir là-dessus. À l’origine, je ne voulais pas utiliser d’IA dans la musique de l’album. Mais c’était tellement au cœur du propos qu’il aurait été dommage de ne pas y faire un petit clin d’œil, ou même un petit doigt d’honneur. Ce morceau étrange me semblait parfait pour représenter ce qu’une IA pourrait penser de l’espèce et de la nature humaine. Ça fait un peu froid dans le dos.
LFB : C’est dingue. Je pensais que c’était un texte emprunté. Ça me fait franchement froid dans le dos de savoir qu’il a été généré.
SDY : Il l’a été, et il y a plus d’un an. C’est déjà archaïque, il y a un an.
LFB : Ça va où Serge de York ? C’est quoi les prochaines étapes ? Tu as envie de quoi, tu le sais ?
SDY : Vaste question. On va déjà essayer de défendre cet album. C’est une guerre pour exister, pour que les morceaux soient écoutés, pour jouer en live, c’est pas évident… C’est ça l’objectif. Après, il pourrait y avoir des spin-offs à partir de l’histoire de Cool apocalypse. L’histoire de Winston avant la fin du monde, ou bien l’histoire depuis le point de vue d’Hespée. Et en même temps, j’ai aussi envie de refaire du rock’n’roll. Ou bien de tout plaquer, de prendre un voilier et de profiter du temps qui passe. De m’éloigner de tout ce cirque de musique alternative.
Être un pion dans un système qui n’a plus de sens, où l’on met 90% de son énergie à faire vivre les morceaux plutôt qu’à les créer… Devoir se prostituer auprès de plateformes de streaming ou des réseaux juste pour être visible alors que ça ne correspond pas du tout à son âme profonde… Enfin : il est urgent de ne rien décider, et de se concentrer sur cet album là.
LFB : À chaque jour suffit sa peine.
SDY : Exactement. Mais je pense que ce sont des questionnements qui ne doivent pas t’être inconnus.
LFB : Bien sûr. Merci beaucoup.
SDY : Merci à toi.