Didulica piłkarską karierę zaczynał w zespole North Geelong Warriors. W 1996 roku przeszedł do silniejszego Melbourne Knights, w którym grało wówczas wielu Australijczyków pochodzenia chorwackiego. W 1999 roku na zasadzie wolnego transferu trafił do holenderskiegoAjaksu Amsterdam. Tam jednak przez 4 lata nie zdołał wywalczyć miejsca w podstawowym składzie, a na część sezonu 2001/2002 był wypożyczony do belgijskiego klubu Germinal Beerschot Antwerpia. Z Ajaksem był tylko raz Mistrzem Holandii w roku 2002. W 2003 roku Didulica przeszedł za darmo do Austrii Wiedeń. Tam walczył o miejsce w podstawowym składzie z NiemcemMarkiem Zieglerem oraz WęgremSzabolcsem Sáfárem i to właśnie Didulica został tym pierwszym bramkarzem. Z Austrią Didulica został jeden raz Mistrzem Austrii w sezonie 2005/2006 i dwukrotnie zdobył Puchar Austrii (2005 i 2006). Latem 2006 roku został sprzedany za 1,5 mln euro do AZ Alkmaar, w którym stał się pierwszym bramkarzem, ale po rozegraniu 7 meczów doznał kontuzji i do końca sezonu 2006/2007 nie pojawił się na boisku. W sezonie 2007/2008 nie rozegrał ani jednego spotkania. W AZ grał do 2011 roku, kiedy to zakończył karierę.
24 kwietnia2006 roku Didulica został ukarany grzywną w wysokości 60 tys. euro za incydent w derby Wiednia rozegranym w maju 2005 z Rapidem Wiedeń, kiedy to uderzył BelgaAxela Lawaree. Lawaree odrzucił przeprosiny Didulicy, a sam Joseph musiał zapłacić Belgowi 1000 euro zadośćuczynienia. Nie była to jedyna kara za ten czyn – Didulica musiał także opuścić 8 meczów w lidze.