Zeller wurde 1893 in Biesenrode im Harz als Sohn eines Pfarrers geboren. Mit acht Jahren bekam er Violinunterricht, bereits während der Schulzeit begann er zu komponieren. Nach dem Abitur in Potsdam nahm Zeller Unterricht bei dem Münchener Geigenvirtuosen Felix Berger, sowie in Berlin bei dem Komponisten Jean Paul Ertel. Nach Ende des Ersten Weltkriegs, an dem er als Soldat teilgenommen hatte, entstanden größere Kompositionen für Orchester sowie Kammermusik und Lieder. Er fand eine Anstellung als Geiger im Orchester der Berliner Volksbühne und war von 1921 bis 1929 Komponist und Dirigent der Schauspielmusik. Durch die Scherenschnitt-Künstlerin Lotte Reiniger kam Zeller mit der Filmmusik in Kontakt und schrieb die Musik für ihren stummen Animationsfilm „Die Abenteuer des Prinzen Achmed“, der 1926 in Berlin uraufgeführt wurde. Weitere Film-Kompositionen (z. B. für Hans Kyser, Walter Ruttmann) folgten. Bald war Zeller einer der gefragtesten und meistgespielten Filmkomponisten seiner Zeit. Während des Dritten Reiches schrieb Zeller, der selbst kein NSDAP-Mitglied war, Filmusiken für „Der zerbrochene Krug“ (1937) und „Immensee“ (1942), jedoch bereits früh auch für zahlreiche Dokumentarfilme der Nazipropaganda, z. B. „Thüringer Land – dem Führer die Hand“ (1934), sowie für NS-Filme, die nach 1945 verboten wurden, wie etwa den anitsemitischen Hetzfilm „Jud Süß“ (1940).
Nach 1945 wurde Zeller Erster Kapellmeister des „Theater am Kurfürstendamm“, schrieb weiterhin aber auch Filmmusiken, z. B. für die antifaschistischen Filme „Ehe im Schatten“ (1947) und „Morituri“ (1948). Die Musik für den sehr bekannt gewordenen Dokumentarfilm „Die Serengeti darf nicht sterben“ (1959) von Bernhard Grzimek war sein letztes Werk. Zeller starb 1967 im Alter von 73 Jahren in Berlin.