W lipcu 1996 roku przejął od Richarda Møllera Nielsena stery drużyny narodowej Danii. Prowadzona przez niego reprezentacja, ze Schmeichelem i braćmi Michaelem i Brianem Laudrupami na czele, na Mistrzostwach Świata 1998 doszła do ćwierćfinału (najlepszy rezultat w historii duńskiej kadry). Przegrała po emocjonującym meczu z przyszłymi wicemistrzami świata Brazylijczykami. Dwa lata później Duńczycy znacznie słabiej zaprezentowali się na Euro 2000, gdzie przegrali wszystkie trzy mecze. Po tym turnieju, zgodnie z wcześniejszymi zapowiedziami, Johansson podał się do dymisji.
Przez trzy lata odpoczywał od pracy szkoleniowej. W połowie 2003 roku został trenerem IFK Göteborg, gdzie pracował tylko sezon. W 2005 roku był opiekunem piłkarzy Molde FK.