L’horreur existentielle de l’usine à trombones.

Un trombone. Deux trombones. Trois trombones..? _ _ _ Un grand merci au Centre pour la Sécurité de l’IA. Pour faire un tour sur leur discord, c’est par ici : Et pour leur site, par là : _ _ _ Quelques sources en vrac : Spreadsheet des “mauvaises instructions“ : “Sparks of Artificial General Intelligence: Early experiments with GPT-4“ : Papier sur l’AI Scientist : “Optimal Policies Tend to Seek Power“ : “Open Problems and Fundamental Limitations of Reinforcement Learning from Human Feedback“ : “AI deception: A survey of exa