Дмитрий Васильевич родился 19 октября (2 ноября) 1900 года в Санкт-Петербурге в семье зубного техника. Ефремову удалось пройти путь от учителя гимназии до министра электропромышленности СССР. В 1918–1921 годах Ефремов — учитель физики 13-й Петроградской гимназии, десятник-чертежник и производитель работ на строительстве железнодорожной линии Петроград — Рыбинск, старший техник и заведующий отделом оборудования строительства железнодорожной линии Александров-Гай — Эмба. В 1924 году окончил ЛПИ. Затем защитил кандидатскую диссертацию по техническим наукам, стал профессором.

После окончания института устроился на завод «Электросила» инженером-проектировщиком. Затем возглавил электромеханическую лабораторию, позднее стал заведующим бюро исследований, а впоследствии — начальником технического отдела завода.  

Арестован в феврале 1938 года. Находясь под следствием, выполнял работу руководителя группы исследований — начальника лаборатории при главном инженере 40-го отдела завода «Электросила». В июле 1941 года освобожден из-под следствия — без суда.

С 1941 до 1947 года занимал должности главного инженера, заместителя директора завода «Электросила» имени С.М. Кирова, был заведующим кафедрой ЛПИ, начальником Особого конструкторского бюро (1945–1946).

С 1947 года — заместитель министра электропромышленности СССР — начальник Технического управления и председатель Научно-технического совета министерства. Одновременно являлся редактором журнала «Вестник электропромышленности». В 1948 году назначен первым заместителем министра электропромышленности СССР. В течение трех лет с 1951 года возглавлял министерство электропромышленности. С 1953 по 1954 год был заместителем министра электростанций и электропромышленности СССР. С 1954 по 1956 год — заместителем председателя Бюро по химии и электроэнергетике при Совете министров СССР. С 1956 по 1960 год был заместителем начальника Главного управления по использованию атомной энергии при Совете министров.

В 1959 году Дмитрий Васильевич удостоен Ленинской премии за создание синхрофазотрона на 10 млрд эВ. Является обладателем четырех Сталинских премий. Дважды кавалер ордена Ленина, награжден орденами Трудового Красного Знамени и «Знак Почета». Умер 27 ноября 1960 года. Похоронен в Москве на Новодевичьем кладбище.