Отец Владимира Дмитриевича, Дмитрий Николаевич был профессором анатомии Московского университета; мать, Мария Егоровна, урождённая Машковцева, происходила из рода потомственных почётных граждан Вятки.
Владимир Дмитриевич поступил на физико-математический факультет Московского университета. Под руководством Петра Николаевича Лебедева в 1902 году Зернов подготовил два научных сочинения: «Тепловая диссоциация» и «Определение декримента затухания акустических резонаторов». В 1904 году его работа «Сравнение методов измерения звуковых колебаний в резонаторе», представленная на рассмотрение Обществу любителей естествознания, антропологии и этнографии при Московском университете, была удостоена…
специальной премии В. П. Мошнина. В 1906 году в «Annalen der Physik» появился его первый печатный труд — на немецком языке: «Uber absolute Messungen der Schallintensitat» («Сравнение методов измерения абсолютной силы звука»). В 1909 году Владимир Дмитриевич Зернов защитил диссертацию на тему «Абсолютное измерение силы звука» и был утверждён в учёной степени магистра физики. После защиты магистерской диссертации В. Д. Зернова избирают приват-доцентом физико-математического факультета Московского университета и командируют за границу, в Германию и Англию.
Из-за границы В. Д. Зернов возвратился уже профессором Саратовского университета (среди первых семи профессоров только что открывшегося университета Зернов был самым молодым — ему исполнился только 31 год). При открытии в университете в 1917 году дополнительных факультетов, он стал, с 5 сентября, первым деканом физико-математического университета, а 28 сентября 1918 года был избран ректором Саратовского университета.
В марте 1921 года был арестован и заключён в Саратовскую губернскую тюрьму, затем переправлен в Москву, в Бутырскую; в мае освобождён. Был женат, имел троих детей. Вместе с семьёй поселился в Москве, где осенью 1921 года принял заведование кафедрой физики во 2-м МГУ. С 1924 года он избран профессором кафедры физики в Московском институте инженеров транспорта и, по совместительству — в Высшем техническом училище им. Баумана. Преподавал физику в Академии коммунистического воспитания.
Умер во время чтения лекции в Высшем техническом училище им. Баумана. Похоронен на 8-м участке Введенского кладбища в Москве.
