Ins Amt des Hamburger Bürgermeisters startete Klose 1974 mit einem rigorosen Sparkurs. Als Vertreter des linken Parteiflügels kritisierte er den Extremistenbeschluss und versuchte die Abkehr Hamburgs von der Atomenergie zu erreichen. Wegen der mangelnden Unterstützung der SPD für seinen Kurs gegen das rund 70 Kilometer entfernt im Nachbarland Schleswig-Holstein gelegene Atomkraftwerk Brokdorf trat Klose als Bürgermeister 1981 zurück.

Seit 1998 widmete er sich auf Bundesebene der Außen- und Sicherheitspolitik, war Vorsitzender des Auswärtigen Ausschusses und wurde 2010 zudem Koordinator für die transatlantische Zusammenarbeit im Auswärtigen Amt - ein Posten, den er 2011 aus familiären Gründen vorzeitig wieder aufgab.