С 1924 года М.П. Костенко работал в Ленинградском политехническом институте, где в 1927 году он был утвержден доцентом, а в 1930 году — профессором и заведующим кафедрой электрических машин. Педагогическую деятельность М.П. Костенко совмещал с работой на заводе «Электросила», где под его руководством были проведены исследования работы асинхронных двигателей при переменной частоте питающей сети, разработаны методы расчета двухклеточного асинхронного двигателя. Он был одним из создателей новой серии турбогенераторов, автором теории «всеобщего трансформатора» — фундамента анализа работы вращающихся машин переменного тока.

В 1951 году по его инициативе был создан Всесоюзный научно-исследовательский институт (ВНИИ) электромашиностроения. М.П. Костенко создал свою научную школу электромеханики, подготовил много молодых ученых и высококвалифицированных специалистов.

В семейном архиве М.П. Костенко имеется акт, подписанный бывшим главным инженером Волховского строительства членом правления «Электротока» Г.О. Графтио 17 мая 1928 года, который свидетельствует: «15 мая 1928 года комиссия, назначенная правлением «Электротока» (Ленинградского объединения электрических станций) под председательством профессора В.А. Толвинского и в составе членов комиссии: от «Электротока» — заведующего производственным отделом профессора Б.Е. Воробьева, инженеров Л.С. Бобровского, В.В. Гольда и А.Г. Строльмана и от «Электросилы» — инженеров М.П. Костенко и Д.В. Ефремова, произвела испытания волховских генераторов».

«Комиссии, — как указывается далее в акте, — были предъявлены для испытания четыре главных генератора Волховской гидроэлектрической станции, изготовленные Ленинградским заводом «Электросила» согласно договору между «Электросилой» и «Эльмаштрестом» 9 февраля 1924 года… Полученные результаты показывают, что практически все четыре генератора, изготовленные Ленинградским заводом «Электросила», являются тождественными и удовлетворяют всем гарантиям технических условий на их поставку». Это была крупная победа завода «Электросила», первый весомый вклад в современное крупное электромашиностроение.

Именно Михаилу Полиевктовичу Костенко современное теоретическое электромашиностроение — как комплексная область знания — обязано своим возникновением и развитием. Еще в предвоенные годы он, будучи ведущим инженером завода «Электросила» и одновременно преподавателем Ленинградского политехнического института, сумел слить воедино интересы вуза и завода. Он создал Общезаводское бюро исследований — зародыш современного научно-исследовательского института, в котором ставились огромные по тому времени научно-исследовательские задачи. На их решении формировался теоретический костяк завода, столь необходимый ему в ту пору разработки и создания новых типов электрических машин.