Erkel Ferenc negyedik fia. Apja, majd Mosonyi Mihály tanította. Karrierjét a Nemzeti Színházban ütősként (üstdob) kezdte, majd karvezetőként folytatta. Zongorázott és cimbalmozni is megtanult, így a Bánk bán ősbemutatóján apja ráosztotta a hangszer kezelését. Karmesterré 1868-ban vált, majd 1874-ben a Nemzeti Színháznál kartanító lett. 1876-ban Richter János távozó igazgató javaslatára nevezték ki a színház opera tagozat igazgatójának, mely tisztséget 1884-ig töltötte be. 1884-től 1886-ig az új Operaház igazgatója volt. 1898-ban a Hugenották című opera dirigálása alatt agyvérzést kapott, ezután visszavonultan élt. Az operaházban 1900-ig dolgozott vezető karnagyként. Halálát az agyvérzés megismétlődése okozta, Békéscsabán 1900 október 14-én. Ravatalát is az Operában állították fel, holttestét október 17-én helyezték örök nyugalomra a Kerepesi temetőben. Számos zenekari- és kórusművet írt (Uvertür, Dalünnep), valamint egy operát, Csobánc címmel. Apját követően ő lett a Filharmóniai Társaság elnök-karnagya.
