Il faut s’attendre à ce que les innovations futures de l’intelligence artificielle (si on évite les 30% de chances de fin du monde) :
- Améliorent le niveau de vie des plus pauvres en démocratisant l’accès à l’éducation, la santé et aux biens matériels
- Rendent certaines personnes extrêmement riche
Ce serait bête de perdre le point numéro 1 par dégoût du point numéro 2.
Ceci étant dit, voilà mon erreur dans la vidéo d’origine :
Un commentateur m’a fait remarquer que, selon Piketty, les inégalités ont diminué depuis la Révolution Française.
Donc mon affirmation que toutes les technologies font augmenter les inégalités est incorrecte.
Ce qui est logique si on y pense :
Imaginez qu’on invente une machine magique qui peut fabriquer n’importe quoi (même un ordinateur ou un repas) depuis chez vous. L’inventeur deviendrait l’homme le plus riche du monde, mais au total les inégalités diminueraient, car la personne moyenne deviendrait beaucoup plus riche, tout en détruisant la fortune de nombreux milliardaires.
J’aurais dû dire « L’IA va rendre certaines personnes très, très riches, mais ce n’est pas une mauvaise chose en soi ».
Pour finir :
👉 Est-ce que vous avez d’autres questions / objections / remarques sur le sujet de l’IA (et notamment de son risque existentiel) ?
La vidéo a reçu plus de 1000 commentaires – mais le niveau de discussion est toujours largement meilleur sur la newsletter.
Je lirais toutes vos réponses, et je citerais peut-être les plus intéressantes dans une future vidéo de débrief sur le sujet.
📖 Livre du lundi
La psychologie de l’argent de Morgan Housel
Sous-titre : « Quelques leçons intemporelles sur la richesse, la cupidité et le bonheur ».
Un énorme best-seller aux US, dont j’ai été surpris qu’il ait l’air d’être passé relativement inaperçu en France. (Seulement 122 évaluations Amazon pour la traduction).
Mon avis : un bouquin solide sur la philosophie de l’argent, et comment le gérer. Rien de très nouveau pour moi, mais de très bonnes anecdotes tout du long.
Extrait, sur l’origine du succès de Warren Buffett :
« Plus de 2 000 livres sont consacrés à la façon dont Warren Buffett a construit sa fortune. Beaucoup d’entre eux sont excellents. Mais peu accordent suffisamment d’attention au fait le plus simple : la fortune de Buffett n’est pas due seulement au fait d’être un bon investisseur, mais d’être un bon investisseur depuis qu’il était littéralement un enfant. »
« Au moment où j’écris ces lignes, la fortune de Warren Buffett est de 84,5 milliards de dollars. Dont 84,2 milliards de dollars ont été accumulés après son 50e anniversaire. Et 81,5 milliards de dollars sont venus après qu’il ait été admissible à la Sécurité Sociale, dans la soixantaine. »
« Warren Buffett est un investisseur phénoménal. Mais vous manquez un point clé si vous attachez tout son succès à son talent d’investisseur. La véritable clé de son succès est qu’il a été un investisseur phénoménal pendant les trois quarts d’un siècle. S’il avait commencé à investir dans la trentaine et pris sa retraite dans la soixantaine, peu de gens auraient jamais entendu parler de lui. »
« Buffett a commencé à investir sérieusement à l’âge de 10 ans. À l’âge de 30 ans, il avait un patrimoine d’un million de dollars, soit 9,3 millions de dollars ajustés pour l’inflation.
Que se serait-il passé s’il avait été une personne plus normale, passant ses années d’adolescence et de jeunesse à explorer le monde et trouver sa passion, et que son patrimoine à 30 ans était, disons, de 25 000 $ ? Et supposons qu’il ait quand même réussi à générer les mêmes rendements annuels extraordinaires (22% par an), mais qu’il ait arrêté d’investir et pris sa retraite à l’âge de 60 ans pour jouer au golf et passer du temps avec ses petits-enfants. Quelle serait une estimation approximative de sa fortune aujourd’hui ?
Elle ne serait pas de 84,5 milliards de dollars – mais de 11,9 millions de dollars. »
📰 Article du lundi
AI Safety: A Technical & Ethnographic Overview de Jon Stokes
Lisez surtout la Partie 2 (« Part 2: Ethnography and tribal warfare ») sur les différents types de personnes qui veulent combattre l’IA – et leurs alliances improbables.
Extrait, sur les 3 différents type de « sécurité IA » :
« 1. Les « policiers du langage »: craignent que les LLM ne disent des mots méchants, soient utilisés pour propager de la désinformation ou soient utilisés pour des tentatives de phishing ou d’autres manipulations sociales à grande échelle. (…)
2. Les « Chernobylistes » : inquiets de ce qui se passera si nous connectons des modèles de ML que nous ne comprenons pas pleinement à des systèmes réels, en particulier ceux critiques ou ceux qui ont des armes. (…)
3. Les « risques existentialistes » : absolument convaincus que dès qu’une AGI apparaîtra, l’humanité est condamnée. (…) »
J’adore aussi cette section sur comment la gauche américaine (« tribu bleue ») et la droite (« rouge ») essaient d’interpréter l’IA selon leur critères habituels :
« 🔵 La tribu bleue :
- Sam Altman, Peter Thiel et Elon Musk sont des capitalistes et des long-termistes, donc ils sont mauvais parce que le capitalisme est mauvais et le long-termisme est mauvais.
- Les IA libérées par les capitalistes et les grandes entreprises perturbent tous nos plans de vendre notre art et notre fiction courte, ce qui est mauvais car les artistes indépendants sont bons et les grandes entreprises capitalistes sont mauvaises.
- L’IA ressemble à un nouvel outil du pouvoir capitaliste de droite pour contrôler les masses.
🔴 La tribu rouge :
- Sam Altman, Peter Thiel et Elon Musk sont des dégénérés sexuels et des long-termistes, donc ils sont mauvais parce que la dégénérescence sexuelle est mauvaise et le long-termisme est mauvais. (Tout le monde déteste les long-termistes !)
- L’IA est une création de BigTech, BigTech est woke, ChatGPT est woke, être woke est mauvais, donc l’IA est mauvaise par transitivité.
- Il y a tellement de poitrines, de waifus et de pornographie dans les groupes d’art IA sur Facebook.
- Ce n’est pas humain, ce qui signifie que c’est soit angélique soit démoniaque, et ce n’est pas angélique (voir ci-dessus pour la dégénérescence sexuelle), donc…
- L’IA ressemble à un nouvel outil du pouvoir capitaliste woke. »
📼 Vidéo du lundi
Pourquoi les couvertures de livres françaises sont si fades de France Culture.
Je parie que vous ne l’avez pas vue venir celle-là…
Stan qui recommande une vidéo en français, c’est déjà une chose. Mais de France Culture !
Que voulez-vous… l’algo YouTube continue de faire des miracles.
Blague à part, c’est une vidéo qui apporte une explication convaincante (que j’aurais appelé « le contre-signalement ») à un paradoxe intriguant.
Autre élément intéressant : la plupart des commentaires semblent être en faveur des couvertures plus visuelles telles qu’on les trouve dans d’autres pays.
