Je viens de passer 2 h à scruter la littérature scientifique sur les risques d’extinction de l’humanité par l’IA. Hormis le fait qu’il n’existe quasiment rien, quasiment tout converge vers des livres et des romans, ou des raccourcis de type « paperclip », qui sont avant tout des jeux d’esprit sans réel application dans la vie réelle. Et il n’y a absolument aucun scénario plausible que j’ai lu qui ne demande pas l’intervention d’humains. Partant de ce principe, je ne comprends pas comment on peut sortir des phrases comme « L’IA peut tuer tous les humains » et être pris au sérieux. Donnez-moi 3 scénarios plausibles d’extermination de la race humaine, en toute autonomie, par une IA. Même ultra intelligente et auto apprenante. Allez-y, je vous écoute. Genre, vraiment, ça me fatigue qu’on donne autant d’importance à des scénarios de science-fiction. Faire des sorties de route sur des menaces aussi grandes, sans absolument aucun scénario plausible, c’est d’une mauvaise foi infinie. La recherche en safety sur des systèmes de plus en plus intelligents, dans des couches de plus en plus profondes, c’est important. Mais je pense qu’il faut vraiment arrêter de donner autant d’importance à des conneries comme ça. Ça me fatigue.