1889'da Sosyal Demokrat bir gazete olan Görlitzer Zeitung'un yayın yönetmeni oldu. 1906'da SPD Yürütme Komitesi'ne seçildikten sonra, partinin sağ ve sol kanatları arasında ılımlı bir çizgi izledi. Temmuz 1914'te sosyalistlerin yaklaşmakta olan I. Dünya Savaşı'na karşı yürüttükleri muhalefet hareketinde eşgüdüm sağlamak üzere Fransa'ya gönderildiyse de, girişimlerinden sonuç alamadı. 1916'da Reichstag (Parlamento) üyeliğine seçildi. Kasım 1918'deki devrimden sonra geçici hükümette görev aldı. Dışişleri bakanı olarak, Almanya adına Versailles Antlaşması'nı (1919) imzaladı. Kapp Darbesi'nin (Mart 1920) başarısızlıkla sonuçlanmasından sonra üstlendiği başbakanlık görevinin Haziran 1920 seçimlerine değin sürdürdü. 1920'de SPD başkanı olan Müller, partinin 1928 seçimlerindeki başarısının ardından, ılımlı partilerle bir koalisyon hükümeti kurdu. Büyük Bunalım'ın Alman ekonomisinde yarattığı çöküntü, koalisyonun dağılmasına yol açtı ve Müller 27 Mart1930'da başbakanlıktan istifa etmek zorunda kaldı.
Bir safra kesesi operasyonunu takiben 1931 yılında ki ölümü Sosyal Demokratlara büyük bir darbe olarak görüldü. Berlin'de ölen Müller, Zentralfriedhof Friedrichsfelde'ye gömülüdü.
