Ce que représente la communauté rationaliste pour moi.

Ça fait des années que j'ai envie d'écrire sur ce que le milieu rationaliste a signifié pour moi. Voyant passer plein de gens le critiquer, avec des arguments que je comprend et d'autres qui décrivent un monde qui n'a rien à voir avec la réalité, j'ai fini par faire un thread twitter, que je vais tenter de reproduire ici de façon lisible. L'avantage du thread twitter c'est que je marque au fur et à mesure ce à quoi je pense, ce qui le rend considérablement plus simple qu'un billet à écrire quand j'ai des tonnes de doute.

Il y a quelques informations en plus qui me sont venu en tête en recopiant le thread. Je n'emphase pas, il n'y a aucun intérêt à savoir ce qui est neuf de ce qui ne l'est pas.

Le thread

Qu'est-ce que j'appelle "Rationalisme"

Tout d'abord, précaution d'usage, je ne suis clairement pas en accord avec tout ce qu'a écrit chaque rationaliste, ce qui serait impossible, je suis même loin d'avoir tout lu. Je rajoute en plus que le terme est utilisé par plusieurs communautés qui, de ce que j'en vois, n'ont rien à voir. J'ai pu voir passer, rarement, et dénconcé, des gens disant "je suis rationaliste"/"j'utilise des méthodes rationalistes", donc j'ai raison. Je n'ai jamais vu ça dans les cercles que je fréquente et n'arrive pas à l'imaginer.

Je suis littéralement incapable parmi les idées que j'en ai tiré de savoir quels idées sont originaires dudit milieu rationaliste, lesquels en sont sorties, et quels idées sont déjà super connues, classique, et évidente pour beaucoup de gens. À quelques exception près. Le paper-clip maximiser, le monde des EM, le truc qu'il ne faut pas connaître, bref, des tas de notions lié aux risques de l'IA viennent de là, mais je n'ai jamais été convaincu de pourquoi cette notion était aussi importante, donc je laisse de coté.

J'aime beaucoup les fictions "rationalistes". Harry Potter et les méthodes de la rationalité étant la plus connu, Metropolitan Man, Pokemon: The origin of species, Instrument of destructions, Sword of Good... Simplement, c'est juste un genre de fiction. Pas meilleur que les romances, les polars ou les romans pas "de genre". Simplement, ça met l'emphase sur une notion que j'aime beaucoup, considérer une idée vraie et explorer très loin ses conséquences, même surprenante. La Science-Fiction a longtemps fait ça, seulement, la science fiction est devenu Star Wars ou 2001 L'odyssée de l'espace, et n'a souvent plus rien à voir avec l'exploration d'un concept. Peut-être que la description "rationaliste" me permet juste de trouver aujourd'hui ce que j'aurai aimé lire sous le titre SF il y a des décennies.

Quelques concepts

Pour revenir à la non-fiction, les postes de blogs, "séquence", etc... je leur doit au minimum, d'expliquer des notions connus dans un langage qui me parle, rien que pour ça, je suis énormément reconnaissant à Eliezer Yudkowski.

Faire des erreurs

À titre d'exemple, quelque chose d’extrêmement important qui a changé chez moi, c'est accepter comme positif le fait de voir que dans le passé j'avais fait des conneries que je ne ferai plus aujourd'hui.

Je suis totalement conscient que cette question est on ne peut plus classique. J'ai entendu je ne sais combien d'artiste expliquer que tu dois pratiquer, et que tu dois trouver des défauts à tes anciennes créations. Des stand-uppers dirent qu'ils testent un an leur spectacle. Je n'avais jamais compris. La phrase a bien entendu du sens, mais ça me semblait montrer un manque de respect pour les spectateurs des œuvres. À part "lettres à un jeune poète" qui prend la peine d'expliquer que les œuvres des premières années ne doivent jamais être montré. Juste de l'entrainement. Je suis aussi en désaccord, mais c'est une autre question. C'est d'autant plus paradoxale que j'aime voir des artistes grandir. Quand je faisais de la scène, j'ai découvert des tas d'humoristes débutant. Voir le travail en construction et l'évolution est un plaisir en soi que les "classiques" ne m'ont jamais donné. Je suis plutôt content de pouvoir dire que j'ai vu Max Bird avant qu'il ne choisisse se pseudo, la toute première scène ouverte de Kee-Yoon, vu Tania Dutel jouer dans un bar, et content de voir leurs évolutions. Je suis aussi toujours fan de Réda Seddiki, Gaëtan Delferière, Florent Losson, Barthélémy, qui n'ont pas (encore?) percé, et regrette les départs d'Alex Barbe, Yonathan dont j'aurai aimé voir l'évolution.

Mais ignorons ce plaisir de voir quelqu'un essayer, évoluer et changeons de sujet. J'ai entendu pour la première fois parlé de descente de gradient en 2008. En français, ça veut juste dire que tu tentes un truc, et tu changes un paramètre un petit peu pour voir quel effet ça a, jusqu'à avoir le meilleur effet possible. Par exemple, quand tu découvres le bowling, tu peux essayer de changer le poid de la boule, si tu lances tout droit, si tu tentes de lui donner de la rotation, et regarde ce que ça change. Si tu te rend compte que tu t'améliores surtout avec une boule plus lourde, alors te recommences tous les essais avec la boule plus légère: rotation, droit/diagonal, coté, encore plus légère, etc... Sauf que tu automatises ça pour que l'ordinateur trouve automatiquement le mouvement idéal et que t'aies pas besoin de lui donner d'instructions régulièrement. À la fin, tu te fais un modèle qui te dit quel est l'importance du poid, de la rotation, de la ligne où c'est lancé, de la position de ton pied, etc... C'était évident pour l'informaticien que je suis que tu peux pas savoir l'effet de chaque paramètre en avance. C'était évident avant tout parce que c'était littéralement dans les hypothèses du problème. Et ça semblait mathématiquement intéressant de considérer que chaque paramètre affecte une distribution de probabilité, qu'on veut découvrir, et se demander combien d'essai il faut pour ça.

Je rajouterai que j'ai aussi découvert un caveat qui rend la notion d'erreur bien moins grande. Considérer l'impact de l'erreur si on se trompe. Essayer de me lancer dans le stand-up et échouer m'a couté des sous. J'étais limité par les sous que j'avais à l'époque, donc ma perte était limité. C'est plus simple de me calibrer, et donc de faire des erreurs si je sais que ma perte est limité. C'est exactement le principe des fail-safe, où un ascenceur peut être dans le vide, a un risque acceptable, parce que au moindre incident, il y a des freins qui sortent. Faire un ascenceur qui ne peut jamais avoir la moindre panne serait probablement impossible, ou du moins rendrait les ascenceurs excessivement plus cher.

Aujourd'hui, je trouve absurde que tout ce qui est décrit plus haut fussent des révélations. Que je n'avais jamais fait le rapprochement entre la théorie que je connaissais et le monde réel que je vivais. Qu'il est normal que les créations, idées, étaient moins bonnes hier, que ça fait parti du processus de recherche. C'est peut-être un énorme problème qu'il ait fallu un formalisme mathématique pour expliquer pour que je comprenne quelque chose qui semble si évident à tant d'artistes, à tens d'activistes (hors twitter?), je reste reconnaissant à ce milieu d'avoir trouvé les mots qui me parlent. Moi adolescent, je disais que si j'avais un fursona (en vrai, c'est un hamster, parce que j'étais webhamster d'une bd furry Fur Piled, et l'auteur m'a fait ce dessin en cadeau) , ça serait un robot. J'ignorai tout des codes correcteurs d'erreurs ceci dit. J'idéalisais cette notion d'optimalité mathématique qu'auraient Jarod (Caméléon) ou chevalier Auguste Dupin de Poe. Il parait qu'en SF, le personnage "rationel" c'est Spoke. Je ne le connais pas. Depuis, j'ai eu des cours sur les codes correcteurs d'erreurs et les systèmes que les robots utilisent pour ce calibrer; que les images que j'en avais était totalement fausse - ce qui fait probablement parti du problème. Bref, c'est un état d'esprit où il aurait impensable, parce qu'honteux, d'admettre que des actions comme détendre ma mâchoire, changer la lumière/couleur, prendre une douche, puisse avoir une influence quelconque sur ma pensée. Encore une fois, l'idée n'a absolument rien de nouvelle, c'est dans tous les clichés de self-help, de new age. J'ai souvent vu dénoncer que c'était une des causes de la masculinité toxique, ne pas reconnaître ses émotions. Rien de neuf ici, sauf que j'ai compris.

Sens des mots

Après, je peux rajouter des outils que je trouve pratique découvert par les écrits rationalistes. Typiquement, comprendre que «Est-ce que l'arbre qui tombe dans la forêt fait de bruit» peut-être réduit à la question «est-ce que "bruit" signifie "une perception par un organe", ou bien "une vibration dans un gaz"». Ce qui étonnamment aide sur certaines disputes. Par exemple la news «Médecin voleur: il donnait les vaccins qui allaient périmer à des gens non prioritaires» semblait créer des disputes. C'est pratique de voir que ceux qui disent qu'il n'est pas un voleur disputent le mot "vol" mais qu'il y a un accord sur l'action commise. Ce qui ne veut pas dire que se disputer sur des définitions n'a aucun intérêt. Les mots sont politiques. Ça sera même crucial pour savoir s'il se fait condamner. Le truc que j'ai lu conseiller, et qui m'a plusieurs fois aider avec un·e partenaire, s'appelle "rationalist taboo", et dans ce genre de cas, ça signifierait simplement s'interdire d'utiliser le mot "bruit" ou "vol" dans la discussion, pour être forcé d'expliciter ce qu'on dit.

Un autre conseil que j'ai vu qui m'a aidé à bloguer: si je n'arrive pas à répondre à une question, considérer pourquoi la question est importante. Si je ne sais pas expliquer pourquoi quelque chose est vrai, expliquer pourquoi je crois cette chose.

Science

J'ai aussi vu des notions lié directement au savoir. Cependant, c'est plus rare que ça serve au jour le jour. Encore que "savoir dire oups", accepter que j'ai raté un truc et pas chercher à me justifier, sauver les meubles, mais juste avaler mon chapeau fait gagner du temps.Typiquement, le rasoir d'Ockham. "C'est arrivé parce que une sorcière dans la rue l'a fait" est une explication super simple, et donc devrait tout expliquer, par contre, l'univers avec ses 10^80 particules ne devrait pas exister, bien trop complexe. C'est marrant de lire une réponse. Ce qui doit être minimisé, c'est le nombre de concept impliqué. I.e. si on veut expliquer la sorcière et comment elle a agit, l'explication devient super longue, alors que les règles fondamentale de la physique sont probablement moins nombreuses.

À propos. En L3 à normal' sup, au premier cours de logique, le prof nous a expliqué qu'on aurait le droit d'utiliser toutes les maths qu'on connait, qu'on ne tenterait pas de tout recréer à partir de 0 (ou plutôt à partir de l'ensemble vide). Je suppose que c'était une image fausse que beaucoup de fan de maths ont de la logique. Bourbaki a tenté de tout recréer à partir de presque rien, c'est un jeu marrant, mais ça ne sert presque à rien au jour le jour. Seulement, la question est assez marrante pour être dans plein de texte de vulgarisations, et si on a jamais vu de théorème de logique formelle à part en vulgarisation, on se retrouve à penser que ça sera le sujet du cours. À la place, on peut utiliser les maths courantes pour les preuves, pour avoir des concepts intéressant, et les appliquer aux concepts formels de la théorie des modèles/preuves, faire confiance au fait qu'on vit dans un monde mathématique qui a du sens et avancer.

Faire moins d'erreurs

Et les séquences m'ont beaucoup aidé à comprendre que: si chercher à faire moins d'erreurs, comprendre comment en faire moins, c'est cool. Alors ça veut dire agir sur nos choix tel qu'on est aujourd'hui, ce qui est très différent de comprendre le fonctionnement de la pensée. Un énorme souci que ça me pause, c'est que ce genre de notions paraissent tellement évident que je dois faire un effort, et pour me souvenir que ça n'a pas toujours été le cas. Une citation qui a été beaucoup reprise en 2020 disait "Tu as la responsabilité de devenir plus éthique que la société dans laquelle tu as grandis". À titre d'anecdote, j'ai vraiment réalisé à quel point c'était pas intuitif quand j'ai vu partager une interview de Nicolas Sarkozy, concernant l'impact écologique des sapins de noël, disant qu'il en avait enfant et n'avait pas l'impression d'être un monstre. Je crois volontier qu'il n'avais pas l'impression d'être un monstre pour avoir un sapin, et c'est justement là le départ de la reflexion, ça n'aurait jamais dû en être la fin.

Liste aléatoire

Un autre concept cool que j'y ai découvert, et qui appartient clairement pas à cette communauté, pleins de gens qui listent des low-hanging-fruits, des trucs super simple qui les ont aidé, qu'ils auraient voulu connaître plus tôt. J'ai l'impression qu'en parler en live est considérablement plus simple qu'une liste, parce que on a vraiment une explication en une minute de pourquoi un outil est cool. Les listes de 2019 et 2020.

Et à titre beaucoup plus prosaïque, j'avais candidaté au MIRI, ce qui m'a payé et pousser à faire un aller retour en Californie. J'ai raté le MIRI mais à la place j'y ai passé presque trois mois, en sous louant dans des collocs rationaliste. J'ai découvert après avoir sous-loué à Decision Tree durant un mois que c'était une expérience mené par Scott Alexander (he wrote about it). Je regrette de ne pas l'avoir rencontré par contre. Durant ce temps là, j'ai pu profiter du reach, y faire un cours d'intro et un cours avancé sur Anki, rencontré des utilisateurs d'Anki, dont un qui me connaissaient de nom. C'est durant ce temps là que j'ai tenté de candidater à DuoLingo, échoué après le screening :(, puis que Google a retrouvé mon CV, que j'y ai passé un entretien d'embauche que je pensais avoir échoué (narrateur: en fait il a été engagé).

Related: j'ai découvert Anki et AnkiDroid grâce à la communauté rationaliste, et au moins le post de gwern : https://gwern.net/Spaced-repetition… Si vous m'avez déjà vu tweeté, vous savez que c'est quelque chose qui est devenu très important pour moi, augmentant mon expérience de développeur. C'était aussi un exercice durant le LessWrong Community Week-end de Berlin (plein de peluche) qu'un exercice m'a fait remettre en question le fait de chercher le prochain post-doc/poste de maitre de conf' et reconsidérer cette voix professionnelle. Ceci dit, je pense que c'est plus un problème de l'université qu'il n'y ait rien qui ait poussé à se poser cette question durant le doctorat où j'étais, et probablement un problème personnel aussi de rester sur la trace licence-master-doctorat-post-doc, parce que c'est LA voie. Le less wrong community week-end est aussi l'endroit où j'ai découvert les cuddle-fort, avec pleins de gens allongé sur un océan de matelas sous des draps tendus à 1m50 de haut. Je recommande à tous, c'est génial ! Par exemple, le double crux pour résoudre les désaccord semble un concept cool (pour moi au moins), mais avoir eu un cadre où pratiquer est mieux, histoire de pouvoir tenter. Même si j'ai pas pu pratiquer depuis, faute d'autre personne dans mon entourage.

Voilà, je pense avoir fait le tour des différentes facettes qui m'importent. Plus d'exemples de truc cool existent, mais tout lister serait inutile. J'espère avoir montré juste ce que ça représente pour moi, et pourquoi j'adore ce milieu là, et m'y sentait bien.

Commentaires

1. Le mardi 16 février 2021, 10:17 par Athreeren

J'avais lu HPMOR et Metropolitan Man, je ne connaissais pas les autres : merci pour les recommandations ! Personnellement j'ai bien aimé A Bluer Shade of White.

“Ce qui ne veut pas dire que se disputer sur des définitions n'a aucun intérêt.” Voir la vidéo de Monsieur Phi sur l'enculage de mouche lexicologique, qui explique cela très bien : https://youtu.be/ayyrtMdPyi4 (en règle générale, il faut regarder Monsieur Phi, c'est bien)

“le rasoir d'Ockham. "C'est arrivé parce que une sorcière dans la rue l'a fait" est une explication super simple, et donc devrait tout expliquer, par contre, l'univers avec ses 10^80 particules ne devrait pas exister, bien trop complexe.”
Le passage de Rationality: From AI to Zombies qui explique le lien entre le rasoir d'Ockham et la notion d'entropie (as sens de théorie de l'information) est un des plus intéressants du livre je trouve.

Ajouter un commentaire

Le code HTML est affiché comme du texte et les adresses web sont automatiquement transformées.

La discussion continue ailleurs

URL de rétrolien : http://www.milchior.fr/blog/index.php?trackback/765

Fil des commentaires de ce billet