Jego olimpijskim debiutem były na igrzyska w Innsbrucku w 1976 r. Wraz z Juhą Mieto, Perttim Teurajärvim i Arto Koivisto zdobył złoty medal w sztafecie 4x10 km. Na tych samych igrzyskach zajął 13 miejsce w biegu na 30 km techniką klasyczną. Na igrzyskach olimpijskich w Lake Placid Finowie w składzie: Harri Kirvesniemi, Pertti Teurajärvi, Matti Pitkänen i Juha Mieto zdobyli kolejny medal w sztafecie, tym razem brązowy. Pitkänen zajął także między innymi 6 miejsce w biegu na 30 km technika klasyczną.
Startował także na mistrzostwach świata w Lahti w 1978 r. Wspólnie z Esko Lähtevänoją, Juhą Mieto i Perttim Teurajärvim zdobył tam srebrny medal w sztafecie. Ponadto w biegach na 15, 30 oraz 50 km zajmował 4 miejsce. Najbliżej medalu był w biegu na 15 km, w którym przegrał walkę o brązowy medal ze swoim rodakiem Juhą Mieto o około 9 sekund.
Pitkänen dwukrotnie zostawał mistrzem Finlandii na prestiżowym dystansie 50 km (w 1977 i 1978 r.). Jedno z najbardziej wartościowych zwycięstw w karierze odniósł w 1978 r. w Holmenkollen właśnie na tym dystansie.