Родился актёр 21 сентября 1916 года, в городе Себеж. В возрасте 16 лет парень поехал в Москву, где пошёл учиться в ФЗУ при Столичном электрозаводе им. B. Куйбышева.
Там он вошёл в театральную труппу рабочей молодёжи, организованную режиссером и киноактером Валентином Плучеком.
В дальнейшем он начал трудиться электриком в ТРАМе, продолжая выходить на сцену театра. В 1936 году его взяли в театр Кукол при Пионерском Дворце.
Но когда началась война, Зиновий пошёл добровольно на фронт.
Зимой 1943 года под Белгородом он получил тяжёлую травму ноги, в результате пережил 11 сложных операций, благодаря которым ногу получилось сохранить, однако она стала короче на целых 8 см, из-за чего Зиновий сильно хромал.
Восстановившись, в 1945 году он стал работать вновь в Театре Кукол, в данном театре актёр играл конферансье Эдуарда Апломбова в комическом кукольном ревю «Необыкновенный концерт».
В период с 1962 по 1966 годы актёр стал трудиться на телевидении и был ведущим известной передачи «Кинопанорама». Также он являлся востребованным актёром дубляжа, а его голосом разговаривали известные американские киноактёры.
Талантливый актёр привлёк внимание режиссёра Ролана Быкова, позвавшего его в 1960 году сыграть роль в своём комедийном фильме «Семь нянек».
А когда актёр снялся в «Золотом телёнке «, в 1968 году, на него обрушилась слава, а режиссёры стали наперебой приглашать его сняться в своих фильмах.
Всего в фильмографии актёра числится более 130 фильмов.
«Не все беспросветно в том, что я делал. Да, были промахи, но были и шажки к художественному, приближения к нему. Хотя сравнения с другими, которые занимаются тем же, почти все не в мою пользу.
Но есть сравнения и в мою пользу. Останется ли что-то из записанного на пленку — аудио и видео — в душах публики? Бесспорно, останется. Что уже неплохо», — поделился актер в интервью.
Не стало актёра 18 ноября 1996 года.