1966년 사민당 입당. 1990년 3월 최초의 독일 전체 의회 선거를 앞두고 사민당 수상 후보로 지명됨. 1990년 12월 선거의 패배 후 그는 당 대표직을 포기하고 자를란트로 돌아감. 1994년 의회 선거에서 수상후보 루돌프 샤핑 및 게르하르트 슈뢰더와 함께 사민당을 이끄는 삼두마차의 일원이 됨.
1995년 만하임에서 열린 사민당 전당대회에서 투쟁적인 연설을 통해 샤핑을 당 대표직에서 끌어내리고 기민당이 정국을 주도하던 통일 독일 내 사민당 총재가 됨. 이후 1998년 슈뢰더를 사민당의 수상 후보로 내세워 당선시킴으로써 슈뢰더 내각의 재무부 장관이 됨.신자유주의에 대항하여 개혁 정책을 펴고자 하였으나 이러한 희망이 깨어지고 당과 정부내에 갈등이 계속되자, 1999년 3월 11일 모든 정치적인 공직으로부터 전격적으로 사퇴를 선언.