Cominciò la carriera nel Maccabi Tel Aviv, con cui vinse per due volte il campionato israeliano (1977, 1979) e per una volta la Coppa nazionale (1977). Venne poi acquistato dal Liverpool, divenendo così il primo calciatore israeliano a giocare nella massima divisione inglese. In Inghilterra giocò poco ma prese parte alle vittorie del campionato nel 1980 e della Coppa dei Campioni nel 1981. Tornò poi a giocare nel Maccabi Tel Aviv, vincendovi un'altra Coppa d'Israele. Successivamente gioca una stagione nel team scozzese dei Rangers, seguita da un ulteriore ritorno nella sua società calcistica natale. Spende gli ultimi due anni della sua carriera da giocatore nel Maccabi Netanya e si ritira nel 1992. In seguitò allenerà diverse squadre israeliane fino al 2001. Nel 2000 ottiene il titolo di calciatore israeliano del secolo[1]. Morì nel 2010 in un incidente in moto. Suo figlio Tamir Cohen giocò anch'egli nella massima serie inglese.