Po wojnie Carrington rozpoczął karierę polityczną. W 1951 r. został parlamentarnym sekretarzem w ministerstwie rolnictwa, rybołówstwa i żywności. Mając 32 lata był najmłodszym członkiem rządu. W latach 1954–1956 był parlamentarnym sekretarzem w ministerstwie obrony. W 1956 r. został Wysokim Komisarzem w Australii i był nim do 1959 r. Po powrocie do Wielkiej Brytanii został pierwszym lordem Admiralicji. Na tym stanowisku popierał politykę premieraMacmillana modernizacji Royal Navy. W 1962 r. został dodatkowo wiceprzewodniczącym Izby Lordów.
Kiedy premierem został Alec Douglas-Home (październik 1963 r.) Carrington został członkiem gabinetu jako przewodniczący Izby Lordów i minister bez teki. Po wyborczej porażce konserwatystów w 1964 r. Carrington został liderem Opozycji w izbie wyższej. Po powrocie Partii Konserwatywnej do władzy w 1970 r. Carrington objął stanowisko ministra obrony i pozostał na nim do 1974 r. Od 1972 r. był równocześnie przewodniczącym Partii Konserwatywnej. Od stycznia do marca 1974 r. był ministrem energii. W latach 1974-1979 ponownie był liderem Opozycji w Izbie Lordów. W 1979 r. został ministrem spraw zagranicznych w gabinecie Margaret Thatcher. W tym samym roku przewodniczącym konferencji w Lancaster House, która doprowadziła do zakończenia wojny domowej w Rodezji i wyborów w lutym 1980 r. Ze stanowiska ministra zrezygnował w kwietniu 1982 r. po inwazjiArgentyńczyków na Falklandy.
W latach 1984–1988 był sekretarzem generalnym NATO. W 1991 r. prowadził dyplomatyczne rozmowy na temat rozpadu Jugosławii. Oprócz stanowisk politycznych Carrington był również kanclerzem uniwersytetu w Reading oraz przewodniczącym wielu firm (np. Christie's) oraz dyrektorem m.in. Barclays Bank, Schweppes oraz Daily Telegraph. Kiedy reforma Izby Lordów z 1999 r. usunęła z Izby parów dziedzicznych, Carrington został kreowany parem dożywotnim jako baron Carrington of Upton.