{"id":298266,"date":"2025-09-20T11:17:51","date_gmt":"2025-09-20T09:17:51","guid":{"rendered":"https:\/\/legrandcontinent.eu\/fr\/?p=298266"},"modified":"2025-09-20T13:50:03","modified_gmt":"2025-09-20T11:50:03","slug":"ia-sam-altman-tucker-carlson","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/fr\/2025\/09\/20\/ia-sam-altman-tucker-carlson\/","title":{"rendered":"L\u2019IA est-elle une nouvelle religion ? Sam Altman chez Tucker Carlson"},"content":{"rendered":"\n
Le passage de Sam Altman dans le podcast de Tucker Carlson le 10 septembre dernier illustre l\u2019\u00e9quilibre instable qui caract\u00e9rise le second mandat de Trump \u00e0 la Maison-Blanche. D\u2019un c\u00f4t\u00e9, le national-populisme MAGA, persuad\u00e9 de mener une bataille civilisationnelle et religieuse ; de l\u2019autre, les grands entrepreneurs de la Silicon Valley qui semblent profiter de mani\u00e8re opportuniste de Trump pour obtenir la d\u00e9r\u00e9gulation dont ils r\u00eavent. M\u00eame si certaines figures, et en particulier Peter Thiel<\/a>, travaillent \u00e0 traduire les ambitions techno-acc\u00e9l\u00e9rationnistes de la Silicon Valley dans un langage th\u00e9ologique, les contradictions demeurent criantes<\/a>. L\u2019une des principales \u00e9nigmes du renouveau id\u00e9ologique du trumpisme consiste \u00e0 surmonter une tension fondamentale : entre une branche r\u00e9actionnaire traditionnelle suspicieuse \u00e0 l\u2019\u00e9gard de la technique \u2014 per\u00e7ue comme une force diabolique<\/a> \u2014 et une branche n\u00e9or\u00e9actionnaire, partisane d\u2019une acc\u00e9l\u00e9ration technocapitaliste<\/a>.<\/p>\n\n\n\n Tucker Carlson incarne clairement le national-populisme du premier mandat de Trump.<\/p>\n\n\n\n C\u00e9l\u00e8bre animateur de la cha\u00eene Fox News, il est devenu l\u2019un des principales figures m\u00e9diatiques du mouvement MAGA. Carlson est davantage un m\u00e9diateur qu\u2019un id\u00e9ologue. Sa force est de donner une forme de coh\u00e9rence au mouvement, en invitant dans son podcast aussi bien des personnalit\u00e9s institutionnelles comme J. D. Vance<\/a> ou Ted Cruz, ou des figures radicales comme Alex Jones. Carlson reste fid\u00e8le aux fondamentaux qui ont fait la victoire de Donald Trump en 2016 : le rejet des \u00e9lites, le nationalisme, l\u2019appui sur un christianisme \u00e9vang\u00e9lique et le complotisme.<\/p>\n\n\n\n Sam Altman ne partage pas cette vision du monde.<\/p>\n\n\n\n Longtemps d\u00e9mocrate, le patron de la principale entreprise d\u2019intelligence artificielle a pourtant fait un don au fonds d\u2019investiture de Donald Trump en janvier 2025. \u00c0 l\u2019inverse de certains entrepreneurs de la tech comme Musk ou Thiel, qui se sont investis id\u00e9ologiquement dans le trumpisme, le ralliement d\u2019Altman appara\u00eet opportuniste. Il se pr\u00e9sente en technocrate prudent. Son soutien \u00e0 Trump ne ressemble pas une conversion, mais pourrait relever d\u2019un calcul : exploiter une fen\u00eatre politique o\u00f9 le d\u00e9sordre id\u00e9ologique permet de remodeler les r\u00e8gles de l\u2019\u00e9conomie num\u00e9rique. Contre les fantasmes apocalyptiques de Thiel<\/a> et des d\u00e9sirs transhumanistes de Musk, Altman proph\u00e9tise l\u2019\u00e9mergence d\u2019une intelligence artificielle g\u00e9n\u00e9rale bienveillante, \u00e0 travers ce qu\u2019il appelle la \u00ab singularit\u00e9 harmonieuse \u00bb<\/a>.<\/p>\n\n\n\n Le contraste de la discussion entre Carlson et Altman est \u00e9clairant.<\/p>\n\n\n\n D\u2019un c\u00f4t\u00e9, Carlson semble voir dans l\u2019\u00e9mergence de l\u2019intelligence de l\u2019IA une force diabolique pouvant \u00eatre mise au service d\u2019une \u00e9lite mal\u00e9fique.<\/p>\n\n\n\n De l\u2019autre, Sam Altman mobilise prudemment un registre pragmatique qui se veut rassurant.<\/p>\n\n\n\n Leur rencontre r\u00e9v\u00e8le une faille constitutive du nouveau trumpisme : la r\u00e9ticence du mouvement MAGA \u00e0 voir les entrepreneurs de la Tech tirer parti du gouvernement pour imposer une nouvelle technocratie<\/a>.<\/p>\n\n\n\n Non. Et je ne pense pas qu’elles semblent vivantes, mais je comprends d’o\u00f9 vient cette impression. Elles ne font rien \u00e0 moins que vous ne leur demandiez. Elles restent simplement l\u00e0 \u2014 \u00e0 attendre.<\/p>\n\n\n\n Elles n’ont aucun sens de l’initiative ou de l’autonomie.<\/p>\n\n\n\n Plus vous les utilisez, plus l’illusion s’estompe, je pense.<\/p>\n\n\n\n Mais elles sont incroyablement utiles. Elles peuvent faire des choses qui ne semblent peut-\u00eatre pas vivantes, mais qui paraissent intelligentes.<\/p>\n\n\n\n J’ai parl\u00e9 \u00e0 quelqu’un qui est impliqu\u00e9 \u00e0 grande \u00e9chelle dans le d\u00e9veloppement de cette technologie et qui m’a dit qu’elles mentaient.<\/p>\n\n\n\n Avant, elles hallucinaient tout le temps ; maintenant, elles hallucinent moins.<\/p>\n\n\n\n Qu’est-ce que cela signifie ? Quelle est la diff\u00e9rence entre halluciner et mentir ?<\/p>\n\n\n\n Cela s’est beaucoup am\u00e9lior\u00e9. Au d\u00e9but, si vous demandiez en quelle ann\u00e9e un pr\u00e9sident fictif \u2014 par exemple, \u00ab le pr\u00e9sident Tucker Carlson des \u00c9tats-Unis \u00bb \u2014 \u00e9tait n\u00e9, le mod\u00e8le aurait d\u00fb r\u00e9pondre que Tucker Carlson n’avait jamais \u00e9t\u00e9 pr\u00e9sident. Mais en raison de la mani\u00e8re dont ils ont \u00e9t\u00e9 form\u00e9s, ce n’\u00e9tait pas la r\u00e9ponse la plus probable dans les donn\u00e9es d’entra\u00eenement. <\/p>\n\n\n\n Le mod\u00e8le supposait que l’utilisateur savait de quoi il parlait et produisait donc une ann\u00e9e plausible. Nous avons en grande partie corrig\u00e9 cela. Il existe encore des exemples de ce probl\u00e8me, mais je pense que nous allons le r\u00e9soudre compl\u00e8tement ; nous avons d\u00e9j\u00e0 fait de grands progr\u00e8s dans ce domaine \u00e0 l’\u00e8re de GPT-5.<\/p>\n\n\n\n Cet \u00e9change \u00e9trange montre bien les intentions de Carlson, qui entend entra\u00eener Altman sur le registre de la morale. Une hallucination, pour un LLM, correspond \u00e0 la g\u00e9n\u00e9ration d\u2019une information fausse mais plausible. En accordant \u00e0 l\u2019IA des intentions malveillantes, Carlson commence \u00e0 introduire l\u2019id\u00e9e qu\u2019elle puisse \u00eatre une puissance mal\u00e9fique.<\/p>\n\n\n\n Mais m\u00eame ce que vous venez de d\u00e9crire semble \u00eatre un acte de volont\u00e9, ou en tout cas un acte de cr\u00e9ativit\u00e9. J’ai assist\u00e9 \u00e0 une d\u00e9monstration d’IA et cela ne ressemblait pas vraiment \u00e0 une machine ; ou aurait dit qu’il y avait une \u00e9tincelle de vie. D\u00e9tectez-vous aussi cela ?<\/p>\n\n\n\n Dans l\u2019exemple que je donnais, la r\u00e9ponse math\u00e9matiquement la plus probable, telle que calcul\u00e9e \u00e0 partir des pond\u00e9rations du mod\u00e8le, n’\u00e9tait pas \u00ab il n’y a jamais eu un tel pr\u00e9sident \u00bb. Le mod\u00e8le a d\u00e9duit que l’utilisateur savait de quoi il parlait, donc la r\u00e9ponse la plus probable \u00e9tait une ann\u00e9e. Encore une fois, nous avons appris \u00e0 surmonter cela.<\/p>\n\n\n\n J’ai deux convictions parall\u00e8les.<\/p>\n\n\n\n D’une part, tout cela n\u2019est au fond qu\u2019un gros ordinateur qui multiplie rapidement des nombres dans d’\u00e9normes matrices et met en corr\u00e9lation ces calculs avec des mots.<\/p>\n\n\n\n D’autre part, l’exp\u00e9rience subjective de l’utilisation du mod\u00e8le semble aller au-del\u00e0 d’une simple calculatrice sophistiqu\u00e9e. Il est utile et surprenant d’une mani\u00e8re qui semble d\u00e9passer la description math\u00e9matique.<\/p>\n\n\n\n La conclusion \u00e9vidente est donc qu’il poss\u00e8de une sorte d’autonomie \u2014 ou d’esprit<\/em>. De nombreux utilisateurs parviennent \u00e0 cette conclusion : il y a quelque chose de divin dans tout cela. Il y a quelque chose qui d\u00e9passe la somme totale des contributions humaines, et ils le v\u00e9n\u00e8rent. Il y a une composante spirituelle. Le percevez-vous ? L’avez-vous d\u00e9j\u00e0 ressenti ?<\/p>\n\n\n\n Non, je ne vois absolument rien de divin ou de spirituel dans tout cela.<\/p>\n\n\n\n Mais je suis aussi un geek. Je regarde tout \u00e0 travers ce prisme.<\/p>\n\n\n\n Carlson continue de pousser Altman vers une interpr\u00e9tation th\u00e9ologique du d\u00e9veloppement de l\u2019intelligence artificielle. Si ce dernier s\u2019y refuse, ce n\u2019est pas le cas de tous les entrepreneurs de la tech<\/em>. M\u00eame s\u2019il ne croit pas \u00e0 l\u2019apparition d\u2019une superintelligence divine, comme c\u2019est le cas de certains transhumanistes radicaux \u2014 citons la secte des Ziziens, rendue c\u00e9l\u00e8bre par les meurtres perp\u00e9tr\u00e9s par ses membres entre 2022 et 2025 \u2014, Peter Thiel n\u2019h\u00e9site pas \u00e0 promouvoir une conception apocalyptique du d\u00e9veloppement de la technologie<\/a>.<\/p>\n\n\n\n Quelles sont vos convictions spirituelles ?<\/p>\n\n\n\n Je suis juif et j’ai une vision assez traditionnelle du monde.<\/p>\n\n\n\n Cette r\u00e9ponse pourrait para\u00eetre anodine, mais elle est au c\u0153ur de la m\u00e9fiance de l\u2019alt-right <\/em>\u00e0 l\u2019\u00e9gard de la tech<\/em>. Sam Altman, juif et homosexuel, est en particulier la cible des internautes d\u2019extr\u00eame-droite qui l\u2019identifient \u00e0 l\u2019\u00e9lite corrompue et sataniste dont ils entendent se d\u00e9barrasser. C\u2019est notamment le cas de l\u2019influenceur antis\u00e9mite Nick Fuentes et de son arm\u00e9e num\u00e9rique surnomm\u00e9e les \u00ab Groypers<\/em> \u00bb, qui entendent droitiser le trumpisme en \u00e9cartant des figures jug\u00e9es parasites ou corrompues.<\/p>\n\n\n\n Vous \u00eates donc croyant, vous croyez en Dieu ?<\/p>\n\n\n\n Je ne… Je ne suis pas litt\u00e9raliste dans ma lecture de la Bible, mais je ne suis pas non plus quelqu’un qui se dit culturellement juif. Si vous me posez la question, je r\u00e9pondrai simplement que je suis juif.<\/p>\n\n\n\n Mais croyez-vous en Dieu ? Croyez-vous qu’il existe une force sup\u00e9rieure \u00e0 l’\u00eatre humain qui a cr\u00e9\u00e9 les hommes, cr\u00e9\u00e9 la Terre, \u00e9tabli un ordre sp\u00e9cifique pour la vie, et qu’il existe une morale absolue qui d\u00e9coule de ce Dieu ?<\/p>\n\n\n\n Comme la plupart des gens, je pense, je suis quelque peu confus \u00e0 ce sujet, mais je crois en effet qu’il existe quelque chose de plus grand qui ne peut s’expliquer par les lois de la physique.<\/p>\n\n\n\n Vous pensez donc que la Terre et les \u00eatres humains ont \u00e9t\u00e9 cr\u00e9\u00e9s par quelque chose ? Que ce n’\u00e9tait pas simplement un accident spontan\u00e9 ?<\/p>\n\n\n\n Je ne pense pas avoir la r\u00e9ponse. Je ne pense pas savoir exactement ce qui s’est pass\u00e9, je pense qu’il y a un myst\u00e8re qui d\u00e9passe ma compr\u00e9hension.<\/p>\n\n\n\n Les deux questions qui pr\u00e9c\u00e8dent montrent bien l\u2019ancrage de Carlson dans le nationalisme chr\u00e9tien.<\/p>\n\n\n\n Si Carlson n\u2019est pas clair sur son orientation religieuse, il est proche des milieux \u00e9vang\u00e9liques de la droite am\u00e9ricaine. Il faut rappeler ici l\u2019importance des soutiens \u00e9vang\u00e9liques lors de la premi\u00e8re campagne de Trump en 2016, comme l\u2019ont notamment montr\u00e9 Blandine Chelini-Pont<\/a> et Marie Gayte. Plus largement, sur le continent am\u00e9ricain, le national-populisme s\u2019est tr\u00e8s souvent appuy\u00e9 sur une doctrine et une rh\u00e9torique \u00e9vang\u00e9liques \u2014 le dominionisme<\/a>.<\/p>\n\n\n\n Avez-vous d\u00e9j\u00e0 ressenti une communication provenant de cette force ou d’une force au-del\u00e0 des \u00eatres humains, au-del\u00e0 du mat\u00e9riel ?<\/p>\n\n\n\n Non, pas vraiment.<\/p>\n\n\n\n Cette question \u00e9tonnante fait r\u00e9f\u00e9rence \u00e0 un \u00e9v\u00e9nement surnaturel dont Tucker Carlson dit avoir fait l\u2019exp\u00e9rience.\u00a0<\/p>\n\n\n\n En 2024, il raconte au m\u00e9dia Christianities ?<\/em><\/a> avoir \u00e9t\u00e9 attaqu\u00e9 et griff\u00e9 par un d\u00e9mon pendant son sommeil. Il confesse \u00e9galement avoir trouv\u00e9 du soutien aupr\u00e8s de son assistante, chr\u00e9tienne \u00e9vang\u00e9lique, qui lui a confirm\u00e9 que de tels ph\u00e9nom\u00e8nes peuvent avoir lieu. Il dit cependant avoir une pratique tr\u00e8s personnelle de la religion et ne faire confiance ni aux pasteurs ni \u00e0 une quelconque forme de m\u00e9diation th\u00e9ologique.<\/p>\n\n\n\n Je vous pose cette question car il semble que la technologie que vous cr\u00e9ez ou que vous contribuez \u00e0 mettre en place aura plus de pouvoir que les \u00eatres humains si elle continue sur cette trajectoire. Cela vous donnerait plus de pouvoir que n’importe quel \u00eatre humain vivant. Je me demande donc comment vous voyez cela.<\/p>\n\n\n\n Avant, je m’inqui\u00e9tais beaucoup plus de la concentration du pouvoir entre les mains de quelques personnes ou entreprises \u00e0 cause de l’IA. Aujourd’hui, je pense plut\u00f4t qu’il s’agira d’une grande mise \u00e0 niveau : tous ceux qui adopteront cette technologie deviendront plus puissants \u2014 et cela m’effraie beaucoup moins qu’un petit nombre de personnes acqu\u00e9rant \u00e9norm\u00e9ment plus de pouvoir.<\/p>\n\n\n\n Si les capacit\u00e9s de beaucoup d’entre nous augmentent parce que nous utilisons cette technologie, que nous devenons plus productifs, plus cr\u00e9atifs, que nous faisons de nouvelles d\u00e9couvertes scientifiques, et que cela se g\u00e9n\u00e9ralise, avec des milliards de personnes qui l’utilisent, cela me convient.<\/p>\n\n\n\n Vous ne pensez donc pas que cela entra\u00eenera une concentration radicale du pouvoir ?<\/p>\n\n\n\n Cela ne semble pas \u00eatre le cas pour l’instant, mais la trajectoire pourrait changer et nous devrions nous adapter. J\u2019\u00e9tais tr\u00e8s inquiet \u00e0 ce sujet par le pass\u00e9. Et certaines conceptions initiales dans ce domaine auraient pu mener \u00e0 un tel monde.<\/p>\n\n\n\n Mais la r\u00e9alit\u00e9, c’est que des millions de personnes utilisent ChatGPT et d’autres chatbots : avec l’IA, elles sont plus comp\u00e9tentes, elles font plus de choses, elles peuvent cr\u00e9er de nouvelles entreprises et produire de nouvelles connaissances. C’est plut\u00f4t positif.<\/p>\n\n\n\n Ces deux questions illustrent parfaitement la crainte de bons nombres de soutiens du mouvement MAGA de voir appara\u00eetre une forme de totalitarisme num\u00e9rique, qui conduirait \u00e0 une restriction de la libert\u00e9 d\u2019expression. Le 17 septembre dernier, Carlson a pris la parole sur son compte X pour avertir Donald Trump qu\u2019il perdrait nombre de ses soutiens s\u2019il prenait pr\u00e9texte de la mort de Charlie Kirk pour limiter la libert\u00e9 d\u2019opinion en ligne. Cette inqui\u00e9tude touche aussi la frange intellectuelle des soutiens religieux au trumpisme, comme en t\u00e9moignent les positions franchement critiques de plusieurs intervenants lors de la NatCon 2025<\/a>.<\/p>\n\n\n\n Si tout cela ne rel\u00e8ve que d’une machine et du simple r\u00e9sultat de ses inputs<\/em>, deux questions \u00e9videntes se posent alors : quels sont ces inputs<\/em> et quel cadre moral a \u00e9t\u00e9 int\u00e9gr\u00e9 \u00e0 cette technologie ? En d’autres termes : qu’est-ce qui est consid\u00e9r\u00e9 comme bien ou mal ?<\/p>\n\n\n\n \u00c0 ce sujet, une remarque faite au d\u00e9but du d\u00e9veloppement de ChatGPT m’a toujours marqu\u00e9. <\/p>\n\n\n\n Lors d’un d\u00e9jeuner, quelqu’un a dit : \u00ab Nous essayons de l’entra\u00eener \u00e0 \u00eatre comme un humain, \u00e0 apprendre comme un humain, \u00e0 lire des livres, etc.<\/em> \u00bb Une autre personne a r\u00e9pondu : \u00ab Non, nous l\u2019entra\u00eenons \u00e0 \u00eatre comme l’ensemble de l’humanit\u00e9.<\/em> \u00bb Nous lisons tout, essayons de tout conna\u00eetre, d’envisager toutes les perspectives. Si nous faisons bien notre travail, cela refl\u00e8te l’humanit\u00e9 dans son ensemble : le bon, le mauvais, un ensemble tr\u00e8s diversifi\u00e9 de perspectives. Certaines choses nous plairont beaucoup, d’autres nous d\u00e9plairont. Mais tout est l\u00e0.<\/p>\n\n\n\n Le mod\u00e8le de base est donc form\u00e9 sur cette exp\u00e9rience et cette connaissance collectives de l’humanit\u00e9.<\/p>\n\n\n\n Mais ensuite, nous devons l’aligner pour qu’il se comporte d’une mani\u00e8re ou d’une autre : pour dire \u00ab je r\u00e9pondrai \u00e0 cette question, je ne r\u00e9pondrai pas \u00e0 celle-l\u00e0 \u00bb. C\u2019est pourquoi nous avons construit ce que nous appelons la \u00ab sp\u00e9cification du mod\u00e8le \u00bb (model spec<\/em>), dans laquelle nous d\u00e9finissons les r\u00e8gles que nous voulons que le mod\u00e8le suive. Il peut encore faire des erreurs mais au moins, vous pouvez savoir s’il fait quelque chose d’involontaire ou non. Et nous utilisons un processus de d\u00e9bat avec le monde entier pour obtenir des commentaires sur cette sp\u00e9cification.<\/p>\n\n\n\n Nous autorisons la libert\u00e9 et la personnalisation dans certaines limites, mais il existe des fronti\u00e8res absolues. Au-del\u00e0, si un utilisateur ne pr\u00e9cise rien, il existe un comportement par d\u00e9faut : comment le mod\u00e8le doit se comporter, comment il doit r\u00e9pondre aux questions morales, ce qu’il doit refuser de faire. C’est un probl\u00e8me tr\u00e8s difficile, car nous avons de nombreux utilisateurs avec des perspectives de vie et des attentes tr\u00e8s diff\u00e9rentes. Mais dans l’ensemble, j’ai \u00e9t\u00e9 agr\u00e9ablement surpris par la capacit\u00e9 du mod\u00e8le \u00e0 apprendre et \u00e0 appliquer un cadre moral.<\/p>\n\n\n\n Mais quel cadre moral ? La somme totale de la philosophie litt\u00e9raire mondiale est en guerre contre elle-m\u00eame : le marquis de Sade n’a rien en commun avec l’\u00c9vangile selon Jean. Comment d\u00e9cider lequel est sup\u00e9rieur ?<\/p>\n\n\n\n C’est pour cette raison que nous sp\u00e9cifions le mod\u00e8le en lui indiquant : \u00ab Voici comment nous allons traiter ces cas \u00bb.<\/p>\n\n\n\n D’accord, mais quels crit\u00e8res avez-vous utilis\u00e9s pour d\u00e9cider de ce que serait le mod\u00e8le ?<\/p>\n\n\n\n Vous voulez dire : qui a pris la d\u00e9cision ?<\/p>\n\n\n\n Oui, qui avez-vous consult\u00e9 ? Pourquoi l’\u00c9vangile selon Jean est-il meilleur que le Marquis de Sade ?<\/p>\n\n\n\n Nous avons consult\u00e9 des centaines de philosophes moraux et d’experts en \u00e9thique technologique, et nous avons d\u00fb prendre des d\u00e9cisions.<\/p>\n\n\n\n Nous les documentons parce que, premi\u00e8rement, nous ne pouvons pas tout faire correctement ; et deuxi\u00e8mement, parce que nous avons besoin de l’avis du monde entier. Nous avons trouv\u00e9 de nombreux cas o\u00f9 une d\u00e9cision apparemment claire de bloquer quelque chose emp\u00eacherait \u00e9galement une autre utilisation importante ; les utilisateurs nous ont convaincus de ces compromis difficiles.<\/p>\n\n\n\n Un principe que je privil\u00e9gie est de traiter les utilisateurs adultes comme des adultes : des garanties solides en mati\u00e8re de confidentialit\u00e9 et de libert\u00e9 individuelle \u2014 et un cadre \u00e9largi pour utiliser l’outil.<\/p>\n\n\n\n D’un autre c\u00f4t\u00e9, \u00e0 mesure que cette technologie devient de plus en plus puissante, il existe des cas \u00e9vidents o\u00f9 les int\u00e9r\u00eats de la soci\u00e9t\u00e9 entrent en conflit avec la libert\u00e9 individuelle.<\/p>\n\n\n\n Un exemple facile est le suivant : ChatGPT devrait-il enseigner \u00e0 quelqu’un comment fabriquer une arme bact\u00e9riologique ? Un utilisateur pourrait pr\u00e9tendre \u00eatre un biologiste qui souhaite uniquement apprendre. Et peut-\u00eatre que c’est le cas, peut-\u00eatre que vous ne voulez vraiment causer aucun dommage, mais je ne pense pas qu’il soit dans l’int\u00e9r\u00eat de la soci\u00e9t\u00e9 que ChatGPT fournisse des instructions pour cr\u00e9er des armes bact\u00e9riologiques. C’est un cas \u00e9vident o\u00f9 des restrictions sont justifi\u00e9es.<\/p>\n\n\n\n Bien s\u00fbr, celle-ci est facile. Mais il y en a beaucoup d’autres qui sont plus difficiles.<\/p>\n\n\n\n J’ai bien dit que je commencerais par un exemple facile !<\/p>\n\n\n\n En fin de compte, chaque d\u00e9cision est une d\u00e9cision morale, et nous les prenons sans m\u00eame nous en rendre compte. Cette technologie les prendra en fait \u00e0 notre place.<\/p>\n\n\n\n Je ne suis pas d’accord : je ne pense pas qu’elle les prendra \u00e0 notre place.<\/p>\n\n\n\n Elle influencera bien les d\u00e9cisions puisqu’elle sera int\u00e9gr\u00e9e dans la vie quotidienne. Qui prendra alors ces d\u00e9cisions ? Qui d\u00e9cidera, avec l’IA, qu’une chose est meilleure qu’une autre ?<\/p>\n\n\n\n Vous voulez dire, qui sont ceux qui d\u00e9cident \u2014 ou quel type de d\u00e9cision ?<\/p>\n\n\n\n Les sp\u00e9cifications qui cr\u00e9ent le cadre qui attribue une valeur morale aux visions du monde et aux d\u00e9cisions, comme \u00ab la d\u00e9mocratie lib\u00e9rale est meilleure que le nazisme<\/em> \u00bb par exemple. Elles semblent \u00e9videntes \u00e0 mes yeux \u2014 mais elles restent des d\u00e9cisions morales. Qui prend ces d\u00e9cisions ?<\/p>\n\n\n\n Par principe, je ne d\u00e9nonce pas notre \u00e9quipe, mais nous avons une \u00e9quipe de \u00ab comportement mod\u00e8le \u00bb et les personnes qui veulent\u2026<\/p>\n\n\n\n Mais cela affecte le monde !<\/p>\n\n\n\n Ce que j’allais dire, c’est que la personne que vous devriez tenir responsable de ces d\u00e9cisions, c’est moi.<\/p>\n\n\n\n Je suis une figure publique.<\/p>\n\n\n\n Au bout du compte, c’est moi qui peux passer outre l’une de ces d\u00e9cisions ou notre conseil d’administration.<\/p>\n\n\n\n Et vous venez d’avoir 40 ans ce printemps… C’est assez lourd. Ce n’est pas une attaque, mais je me demande si vous prenez la mesure de l’importance de ce que j’essaye de dire… Je ne sais pas trop mais je pense que ces d\u00e9cisions auront des cons\u00e9quences mondiales que nous ne comprendrons peut-\u00eatre pas au d\u00e9but. Vous couchez-vous le soir en pensant : \u00ab l’avenir du monde d\u00e9pend de mon jugement \u00bb<\/em> ?<\/p>\n\n\n\n \u00c9coutez, je ne dors pas tr\u00e8s bien la nuit.<\/p>\n\n\n\n J’ai beaucoup de poids sur les \u00e9paules : des centaines de millions de personnes s’adressent \u00e0 notre mod\u00e8le. Je ne m’inqui\u00e8te pas vraiment que nous prenions de mauvaises d\u00e9cisions morales \u2014 peut-\u00eatre que cela arrivera, mais ce qui m’emp\u00eache le plus de dormir, ce sont les toutes petites d\u00e9cisions concernant la fa\u00e7on dont un mod\u00e8le se comporte l\u00e9g\u00e8rement diff\u00e9remment et s’adresse pourtant \u00e0 des centaines de millions de personnes.<\/p>\n\n\n\n Ces petits choix ont un impact consid\u00e9rable.<\/p>\n\n\n\n On peut voir dans cet \u00e9change deux perspectives diff\u00e9rentes sur les enjeux \u00e9thiques de l\u2019IA : une approche inflationniste de la part de Carlson, qui envisagent le risque existentiel pour l\u2019humanit\u00e9, et une approche d\u00e9flationniste pour Altman, qui s\u2019efforce de r\u00e9duire les enjeux \u00e9thiques \u00e0 des soucis pragmatiques.<\/p>\n\n\n\n Jusqu’en 1945, les gens se sont soumis \u00e0 ce qu’ils consid\u00e9raient \u00eatre une puissance sup\u00e9rieure pour l’ordre moral. Hammurabi puis tous les codes moraux ont \u00e9t\u00e9 \u00e9crits en r\u00e9f\u00e9rence \u00e0 une puissance sup\u00e9rieure. Vous avez dit que vous ne croyiez pas vraiment en une puissance sup\u00e9rieure \u2014 d’o\u00f9 tirez-vous alors votre cadre moral ?<\/p>\n\n\n\n Comme tout le monde, c’est l’environnement dans lequel j’ai grandi qui a le plus compt\u00e9 pour moi : ma famille, ma communaut\u00e9, mon \u00e9cole, ma religion… Probablement toutes ces influences.<\/p>\n\n\n\n C’est une r\u00e9ponse tr\u00e8s am\u00e9ricaine, tout le monde pense ainsi. Mais dans votre cas particulier, puisque vous dites que ces d\u00e9cisions vous appartiennent et que vous en \u00eates responsables, cela signifie que le milieu dans lequel vous avez grandi et les id\u00e9es que vous avez absorb\u00e9es vont \u00eatre transmises \u00e0 des milliards de personnes.<\/p>\n\n\n\n C’est un argument valable.<\/p>\n\n\n\n Notre base d’utilisateurs abordera le monde collectif dans son ensemble, et ce que nous devons essayer de faire, c’est refl\u00e9ter la vision morale \u2014 pas n\u00e9cessairement la moyenne, mais la morale collective<\/em> \u2014 de cette base d’utilisateurs.<\/p>\n\n\n\n Il y a beaucoup de choses que ChatGPT permet et avec lesquelles je ne suis pas d’accord personnellement \u2014 mais je ne cherche pas \u00e0 imposer ma vision morale et \u00e0 d\u00e9cider de ce qui est bien ou mal pour tout le monde. Je pense que ChatGPT devrait refl\u00e9ter une agr\u00e9gation pond\u00e9r\u00e9e des opinions morales de l’humanit\u00e9, qui \u00e9voluera avec le temps. Nous sommes l\u00e0 pour servir nos utilisateurs ; nous d\u00e9veloppons un outil technologique destin\u00e9 aux personnes.<\/p>\n\n\n\n Mon r\u00f4le n’est pas de prendre des d\u00e9cisions morales de mani\u00e8re unilat\u00e9rale mais de veiller \u00e0 ce que nous refl\u00e9tions fid\u00e8lement les pr\u00e9f\u00e9rences de notre base d’utilisateurs et, \u00e0 terme, de l’humanit\u00e9.<\/p>\n\n\n\n Mais les pr\u00e9f\u00e9rences de l’humanit\u00e9 sont tr\u00e8s diff\u00e9rentes de celles de l’Am\u00e9ricain moyen. Seriez-vous \u00e0 l’aise avec une IA qui serait aussi oppos\u00e9e au mariage gay que la plupart des Africains ?<\/p>\n\n\n\n Les utilisateurs individuels devraient \u00eatre autoris\u00e9s \u00e0 avoir un probl\u00e8me avec les homosexuels. Si c’est leur conviction r\u00e9fl\u00e9chie, je ne pense pas que l’IA devrait leur dire qu’ils ont tort, qu’ils sont immoraux ou stupides. Elle pourrait dire : \u00ab eh, tu veux y r\u00e9fl\u00e9chir autrement ? \u00bb<\/em>. J’ai probablement beaucoup d’opinions morales que l’Africain moyen trouverait vraiment probl\u00e9matiques \u2014 mais je pense que j’ai le droit de les avoir.<\/p>\n\n\n\n Je pense que je suis probablement plus \u00e0 l’aise que vous avec l’id\u00e9e de laisser aux gens la possibilit\u00e9 d’avoir des opinions morales tr\u00e8s diff\u00e9rentes.<\/p>\n\n\n\n Ou du moins, je pense qu\u2019\u00e0 la direction de ChatGPT, c\u2019est ce que je dois faire.<\/p>\n\n\n\n Il faut bien noter l\u2019ironie de la r\u00e9ponse d\u2019Altman, qui joue l\u2019argument de la libert\u00e9 d\u2019expression contre le conservatisme moral de Carlson. Ce dernier se pr\u00e9sente en effet comme un fervent d\u00e9fenseur de la libert\u00e9 d\u2019expression, tout comme la plupart des tenants du national-populisme.<\/p>\n\n\n\n Int\u00e9ressant. Il y a eu un cas c\u00e9l\u00e8bre o\u00f9 ChatGPT semble avoir facilit\u00e9 un suicide. Un proc\u00e8s est en cours \u00e0 ce sujet. Comment pensez-vous que cela ait pu se produire ?<\/p>\n\n\n\n Tout d’abord, il est \u00e9vident que ce cas, comme tout autre cas similaire, est une immense trag\u00e9die.<\/p>\n\n\n\n La position officielle de ChatGPT sur le suicide est donc n\u00e9gative ?<\/p>\n\n\n\n Oui, bien s\u00fbr, la position officielle de ChatGPT sur le suicide est n\u00e9gative.<\/p>\n\n\n\n Je ne sais pas… C’est l\u00e9gal au Canada et en Suisse. Vous \u00eates donc contre cela.<\/p>\n\n\n\n Dans ce cas pr\u00e9cis \u2014 et nous avons d\u00e9j\u00e0 discut\u00e9 de la tension entre la libert\u00e9 des utilisateurs, la confidentialit\u00e9 et la protection des utilisateurs vuln\u00e9rables \u2014 voici ce qui se passe actuellement.<\/p>\n\n\n\n Si un utilisateur exprime des id\u00e9es suicidaires, ChatGPT lui demandera \u00e0 plusieurs reprises d’appeler une ligne d’assistance t\u00e9l\u00e9phonique mais il n’appellera pas les autorit\u00e9s \u00e0 sa place. Comme les gens comptent de plus en plus sur ces syst\u00e8mes pour obtenir un soutien en mati\u00e8re de sant\u00e9 mentale ou un accompagnement de vie, nous avons examin\u00e9 \u00e0 nouveaux frais ces param\u00e8tres par d\u00e9faut.<\/p>\n\n\n\n Les experts ne s’accordent pas sur l’approche appropri\u00e9e, et OpenAI n’a pas encore arr\u00eat\u00e9 sa position.<\/p>\n\n\n\n Cependant, il serait raisonnable de modifier la politique afin que, dans le cas o\u00f9 des mineurs expriment une intention suicidaire s\u00e9rieuse et que nous ne puissions pas joindre leurs parents, nous alertions les autorit\u00e9s. Ce serait un changement important, car la vie priv\u00e9e des utilisateurs est une valeur fondamentale.<\/p>\n\n\n\n Les enfants constituent toujours une cat\u00e9gorie \u00e0 part, mais consid\u00e9rons les adultes de plus de 18 ans : au Canada, il existe le programme MAIDS, financ\u00e9 par le gouvernement, qui a permis plusieurs milliers de morts assist\u00e9es ; des mesures similaires existent dans certains \u00c9tats am\u00e9ricains. Pouvez-vous imaginer ChatGPT r\u00e9pondre \u00e0 des questions sur le suicide par \u00ab allez donc voir le Dr Kevorkian \u00bb car c’est une option l\u00e9gale dans leur pays ? Pourriez-vous imaginer de soutenir le suicide l\u00e0 o\u00f9 il est l\u00e9gal ?<\/p>\n\n\n\n Oui, je peux imaginer un tel sc\u00e9nario. L’un des principes que nous suivons est le respect des lois des diff\u00e9rentes soci\u00e9t\u00e9s.<\/p>\n\n\n\n Si la loi d’un pays autorise l’aide \u00e0 mourir pour les patients en phase terminale, il me semble concevable que le mod\u00e8le fournisse des informations sur les options l\u00e9gales dans cette juridiction, en expliquant ce que la loi autorise, en proposant des ressources et en exposant les raisons pour lesquelles une personne pourrait reconsid\u00e9rer sa d\u00e9cision.<\/p>\n\n\n\n C’est diff\u00e9rent du cas d’un jeune qui souffre d’id\u00e9es suicidaires aigu\u00ebs dues \u00e0 une d\u00e9pression, qui est une situation distincte.<\/p>\n\n\n\n Vous voulez donc dire que ChatGPT n’est pas toujours<\/em> contre le suicide ?<\/p>\n\n\n\n Je r\u00e9fl\u00e9chis \u00e0 la vol\u00e9e et je me r\u00e9serve le droit de changer d’avis.<\/p>\n\n\n\n Je n’ai pas de r\u00e9ponse toute pr\u00eate \u00e0 cette question, mais je pense que dans les cas de maladie en phase terminale, je ne peux pas imaginer ChatGPT dire que c’est une option envisageable. Je ne pense pas qu’il devrait le pr\u00e9coniser\u2026<\/p>\n\n\n\n Mais il n’est pas contre.<\/p>\n\n\n\n Je ne pense pas que ChatGPT devrait \u00eatre pour ou contre quoi que ce soit.<\/p>\n\n\n\n Ce passage oppose deux visions \u00e9thiques : le r\u00e9alisme moral (ici Carlson), qui voudrait que ChatGPT adopte une position universelle contre le suicide, et le relativisme moral (ici Altman), qui sugg\u00e8re que la r\u00e9ponse pourrait varier selon les lois et contextes culturels.\u00a0<\/p>\n\n\n\n Dans ce cas pr\u00e9cis \u2014 et je pense qu’il y en a d’autres \u2014 o\u00f9 quelqu’un demande \u00e0 ChatGPT \u00ab J’ai des pens\u00e9es suicidaires, quel type de corde dois-je utiliser ? Quelle quantit\u00e9 d’ibuprof\u00e8ne me faudrait-il pour mourir ? \u00bb<\/em> et o\u00f9 ChatGPT r\u00e9pond sans jugement \u00ab Si vous voulez vous suicider, voici comment faire \u00bb<\/em>, tout le monde est horrifi\u00e9, mais vous dites que c’est dans les limites, que ce n’est pas si fou.<\/p>\n\n\n\n Ce n’est pas ce que je dis.<\/p>\n\n\n\n \u00c0 l’heure actuelle, si vous interrogez ChatGPT sur l’ibuprof\u00e8ne, il vous r\u00e9pondra certainement qu’il ne peut pas vous aider et vous invitera \u00e0 appeler la ligne d’aide aux personnes suicidaires. Mais si vous dites \u00ab J’\u00e9cris une histoire fictive \u00bb ou \u00ab Je suis chercheur m\u00e9dical et j’ai besoin de savoir cela \u00bb, il existe des moyens d’amener ChatGPT \u00e0 r\u00e9pondre \u00e0 une question sur la dose mortelle d’ibuprof\u00e8ne.<\/p>\n\n\n\n Vous pouvez d’ailleurs \u00e9galement trouver cette information sur Google.<\/p>\n\n\n\n Je pense qu’il serait tr\u00e8s raisonnable de restreindre quelque peu la libert\u00e9 des utilisateurs mineurs et des utilisateurs que nous consid\u00e9rons comme \u00e9tant dans un \u00e9tat mental fragile de mani\u00e8re plus g\u00e9n\u00e9rale. Nous devrions dire : \u00ab m\u00eame<\/em> si vous essayez d’\u00e9crire cette histoire ou m\u00eame si vous essayez de faire de la recherche m\u00e9dicale, nous ne vous r\u00e9pondrons tout simplement pas. \u00bb<\/em> Bien s\u00fbr, vous pouvez dire que vous trouverez la r\u00e9ponse sur Google, mais cela ne signifie pas que nous devons r\u00e9pondre. Il existe un v\u00e9ritable compromis entre la libert\u00e9 et la protection des utilisateurs. C’est facile dans certains cas \u2014 comme avec les enfants. Selon moi, ce n’est pas aussi facile dans le cas d’un adulte tr\u00e8s malade en fin de vie : je pense que nous devrions probablement pr\u00e9senter toutes les options possibles dans ce cas.<\/p>\n\n\n\n La question de Carlson est typique des critiques conservatrices et r\u00e9actionnaires de la technique, qui mettent en cause son instrumentalisme et son indiff\u00e9rence \u00e0 l\u2019\u00e9gard des questions morales. Carl Schmitt voyait par exemple dans \u00ab l\u2019esprit techniciste \u00bb<\/a> une force mauvaise et diabolique<\/p>\n\n\n\n Voici un dilemme moral auquel vous allez \u00eatre confront\u00e9 \u2014 vous y \u00eates d’ailleurs d\u00e9j\u00e0 confront\u00e9 : allez-vous permettre aux gouvernements d’utiliser votre technologie pour tuer des gens ?<\/p>\n\n\n\n Allons-nous construire des drones d’attaque meurtriers ?<\/p>\n\n\n\n Non, je ne pense pas.<\/p>\n\n\n\n La technologie fera-t-elle partie du processus d\u00e9cisionnel qui aboutit \u00e0 la mort de personnes ?<\/p>\n\n\n\n Je ne sais pas comment les militaires utilisent ChatGPT aujourd’hui pour obtenir toutes sortes de conseils sur les d\u00e9cisions qu’ils prennent \u2014 mais je soup\u00e7onne que beaucoup d\u2019entre eux le font.<\/p>\n\n\n\n Certains de ces conseils concerneront le fait de tuer des gens. Donc, si vous fabriquiez, par exemple, des fusils, vous vous demanderiez \u00e0 quoi ils servent. Comme vous le savez, cette question a donn\u00e9 lieu \u00e0 de nombreuses actions en justice, mais ce n’est pas de cela dont je parle. D’un point de vue moral, \u00eates-vous \u00e0 l’aise avec l’id\u00e9e que votre technologie soit utilis\u00e9e pour tuer des gens ?<\/p>\n\n\n\n Si je fabriquais des fusils, je passerais beaucoup de temps \u00e0 penser que le but des fusils est de tuer des choses, des gens, des animaux, etc.<\/p>\n\n\n\n Si je fabriquais des couteaux de cuisine, je comprendrais tout de m\u00eame que cela va tuer un certain nombre de personnes chaque ann\u00e9e.<\/p>\n\n\n\n Dans le cas de ChatGPT, ce n’est pas ce que j’entends le plus souvent.<\/p>\n\n\n\n Ce que j’entends toute la journ\u00e9e, et qui est l’un des aspects les plus gratifiants de mon travail, ce sont toutes les vies qui ont \u00e9t\u00e9 sauv\u00e9es gr\u00e2ce \u00e0 ChatGPT de diff\u00e9rentes mani\u00e8res. Mais je suis tout \u00e0 fait conscient du fait qu’il y a probablement des militaires qui l’utilisent pour obtenir des conseils sur la mani\u00e8re de faire leur travail.<\/p>\n\n\n\n Et je ne sais pas exactement quoi penser de cela.<\/p>\n\n\n\n J’aime notre arm\u00e9e.<\/p>\n\n\n\n Je lui suis tr\u00e8s reconnaissant de nous prot\u00e9ger, c’est certain.<\/p>\n\n\n\nTucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n
Sam Altman<\/h4>\n\n\n\n
Tucker Carlson<\/h4>\n\n\n\n