Karierę piłkarską de Jong rozpoczął w amatorskich klubach SDW Amsterdam i AZ'67. Następnie został zawodnikiem klubu Telstar z miasta Velsen. W 1984 roku został zawodnikiem pierwszego zespołu i wtedy też zadebiutował w jego barwach w drugiej lidze holenderskiej. W Telstarze grał do końca 1987 roku, a na początku 1988 roku przeszedł do innego drugoligowca, SC Heerenveen. W Heerenveen występował przez półtora roku.
W 1989 roku de Jong przeszedł z Heerenveen do PSV Eindhoven. W Eredivisie zadebiutował 10 lutego 1990 roku w wygranym 6:0 domowym spotkaniu z NEC Nijmegen. 31 października 1990 strzelił swojego pierwszego gola w holenderskiej lidze, w meczu z Rodą Kerkrade (3:1). W 1990 roku zdobył z PSV Puchar Holandii, a w 1991 i 1992 roku wywalczył mistrzostwo kraju. Na początku 1993 roku został na pół roku wypożyczony do FC Groningen (debiut: 7 lutego 1993 w zremisowanym 1:1 meczu z FC Twente). W PSV grał do końca sezonu 1993/1994.
W 1994 roku de Jong został zawodnikiem francuskiegoSM Caen. W 1995 roku wrócił do Holandii i przez 2 lata grał w drugoligowym FC Eindhoven. W 1997 roku przeszedł do MVV Maastricht, w którym zadebiutował 21 sierpnia 1997 w meczu z Feyenoordem (0:3). W 2000 roku spadł z MVV do Eerste Divisie, a w 2001 roku zakończył karierę.