Kazandığı burs sayesinde ABD'deyi gezip tanıma fırsatını elde etti. 1948'de İsveç'e dönerek Stockholm Üniversitesi Hukuk Bölümü'ne girdi. 1949 yılı başlarında İsveç Öğrenci Birlikleri Federasyonu'nun dış ilişkiler bürosunda görev aldı. 1952'de İsveç Öğrenci Birliği Federasyonu başkanlığına getirildi. 1951 yılında Hukuk Fakültesi'ni bitirdi. Üniversite yıllarında tanıştığı liberal-sosyalist düşüncelerden oldukça etkilendi.
1953'de Generalkurmay Haber Alma Dairesi'nde sekreter olarak çalışmaya başladı. Aynı yıl Başbakan Erlander'in kalem müdürü oldu. 1957'de milletvekili seçilerek parlamentoya girdi. 1963'te Devlet Bakanı, 1965'te Ulaştırma Bakanı, 1967'de Milli Eğitim ve Kültür Bakanı olarak görev yaptı. Olof Palme 42 yaşında oybirliğiyle İsveç Sosyal Demokrat İşçi Partisi'nin başlanlığına seçildi ve başbakanlık görevini üstlendi. Önce 1969-1976 yılları arasında, sonra 1982'den 1986'daki ölümüne kadar, yaklaşık 11 yıl İsveç başbakanlığı görevini yürüttü.
Palme, dünya kamuoyunun dikkatini ilk kez, 1965'de ABD'nin Vietnam'a yönelik emperyalist müdahalesini çok ağır biçimde eleştirmesiyle çekti. Olof Palme, gerek ülkesinde gerekse dünyada, sosyal demokrat hareketin önemli bir sembolü olarak anılmaktaydı.
28 Şubat 1986 gecesi, eşiyle birlikte gittiği sinemadan evine dönerken, kimliği bilinmeyen bir kişi tarafından vurularak öldürüldü.
