Rođen je 1927 godine u Inđiji.
U rodnom gradu je i počeo da se bavi fudbalom, a nastavio je u novosadskoj Slogi, kako se tada zvala Vojvodina.
Kao talentovanog igrača prihvatio ga je beogradski Partizan za koji je od 1951 do 1958 godine – prvo kao lijevo krilo, kasnije kao lijevi bek – odigrao ukupno 313 utakmica i postigao 101 gol (od toga u prvenstvu 138 utakmica i 37 golova).
Herceg je bio član ekipe Partizana koja je odigrala prvu utakmicu u istoriji Kupa evropskih šampiona, 4. septembra 1955. protiv Sportinga u Lisabonu.
U dresu beogradskih “crno-belih” osvojio je 1957 godine kup Jugoslavije. Bio je prilično efikasan s obzirom na to da nije bio klasični napadač.
Uz četiri utakmice i dva gola za “B” tim (1954-1956), odigrao je 12 utakmica i postigao dva pogotka za reprezentaciju Jugoslavije. Debitovao je 1950 godine u prijateljskoj utakmici sa Švedskom (2:1) u Stokholmu i kao lijevo krilo postigao pobedonosni gol , a posljednju utakmicu odigrao je 1957 godine protiv Grčke (0:0) u Atini igrajući kao lijevi bek u užoj odbrani sa Bearom i Crnkovićem.
Kad je napustio Partizan, jedno vreme je igrao u Njemačkoj, gde je ostao da radi kao stomatolog.
