Sergen Yalçın zawodową karierę rozpoczynał w 1991 roku w Beşiktaşu JK, w barwach którego wystąpił w 136 ligowych pojedynkach i strzelił 43 gole. Następnie przez dwa sezony reprezentował barwy İstanbulsporu, gdzie rozegrał 36 meczów i zdobył czternaście bramek. W późniejszym czasie był wypożyczany do Fenerbahçe SK, Galatasaray SK, Trabzonsporu oraz ponownie do Galatasaray. W 2002 roku powrócił do Beşiktaşu, barwy którego reprezentował do 2006 roku. Następnie Yalçın był zawodnikiem Etimesgut Şekerspor i Eskişehirspor, po czym zakończył karierę.