Генрих Графтио родился 26 декабря 1869 года в городе Даугавпилс в семье железнодорожника, потомка дворянского рода из Нидерландов. Окончил физико-математический факультет Новороссийского университета в Одессе и Петербургский институт Корпуса инженеров путей сообщения. После окончания учебы молодой специалист уехал на стажировку за границу. На крупнейших заводах Европы и США он ознакомился с новейшими образцами парогенераторов, турбин, электродвигателей. По возвращении в Россию Графтио начал активную деятельность, направленную на ускоренное развитие отечественной гидроэнергетики и электрификацию железных дорог. Графтио спроектировал и организовал движение электрического трамвая в Петербурге по нескольким маршрутам. Первая линия протяженностью чуть более двух километров была открыта 29 сентября 1907 года. В 1907–1911 годах составил проекты электрификации железной дороги Крыма и Закавказья, а также ГЭС в Волхове (1910–1911 годы).  

С 1907 года Графтио преподавал в Петербургском (Ленинградском) электротехническом институте (с 1921 года — профессор). Член комиссии по разработке плана ГОЭЛРО, непосредственно руководил секцией по электрификации Кавказского района и секцией транспорта. 

В 1912 году вместе с инженером Е. Палицыным по заказу Российского государственного управления внутренних водных путей разработал проект гидроэлектростанции на Петропавловских порогах реки Волхов для снабжения энергией столичного железнодорожного узла. Но из-за вмешательства «Общества электрического освещения 1886 года», снабжающего Петербург электроэнергией от своей тепловой станции, и опасавшихся негативных последствий возведения плотины землевладельцев воплощение проекта было отложено на неопределенный срок. Убытки для государства составили свыше 1 миллиона золотых рублей.

В 1917 году разработал проект сооружения наземного «железнодорожного метрополитэна» от Балтийского вокзала до железнодорожной станции Удельная в Петрограде. После смены власти весной 1918 года Генрих Графтио возглавил Электрожелдор — управление в составе Наркомпути, разрабатывавшее план электрификации железнодорожных магистралей страны. Через два года он стал одним из вдохновителей Комиссии государственной электрификации России, созданной под патронажем Ленина. 

Главное детище и гордость Генриха Графтио — Волховская ГЭС в Ленинградской области. В январе 1918 года по поручению Ленина Графтио составил смету Волховстроя. 14 июля 1918 года был вызван в Москву, в Совнарком, где под председательством Ленина рассматривался вопрос о Волховстрое. По личному указанию В.И. Ленина в 1921 году возглавил строительство Волховской ГЭС, где еще с 1918 года работал помощником главного инженера, приостановленного в связи с Гражданской войной, и строительство Свирской ГЭС — Свирьстрой. Возведение гидроэлектростанции длилось с перерывами восемь лет и было завершено в 1926 году. На ГЭС было установлено 8 турбоагрегатов суммарной мощностью 64 тыс. кВт. Четыре из них были изготовлены ленинградским заводом «Электросила», что ознаменовало начало развития отечественного гидроэнергомашиностроения.

Возведение крупнейшей ГЭС решило проблему энергоснабжения Ленинграда и области. Кроме того, благодаря созданному плотиной подъему уровня реки и постройке шлюза было обеспечено безопасное сквозное судоходство по реке Волхов на всем ее протяжении. 

Графтио был арестован 11 марта 1921 года Петроградской ЧК по «делу Свирьстроя», вместе со всем руководством Волховстроя, и освобожден как «крупный специалист» постановлением о «непричастности к делу» после личного вмешательства Ленина и Кржижановского. Однако «делом Свирьстроя» был сорван весь строительный сезон 1921 года, строительство Нижне-Свирской ГЭС вновь началось в 1928 году и было закончено в 1933 году, в основном силами заключенных. Впервые в практике мирового гидростроительства был реализован опыт возведения плотины с большим напором на слабых грунтах — девонских глинах. Вопреки предложениям иностранных советников возводить плотину с глубоким заложением на кессонах для передачи упора на нижние слои грунта, Г.О. Графтио положил в основу строительства принцип распластанного основания, обеспечившего высокую эффективность и надежность сооружения. Разработанная ученым технология строительства ГЭС на мягком грунте впоследствии позволила возводить такие сооружения на Волге и других реках.

Чудом Графтио удалось избежать «геноцида инженеров» 1937 года: Сталин не репрессировал, а перевел в систему Академии наук (иначе говоря, «сослал в науку») главных творцов плана ГОЭЛРО. 29 марта 1932 года, минуя все промежуточные ступени, действительными членами Академии наук СССР по отделению математических и естественных наук (гидроэнергетика) стали И.Г. Александров, Б.Е. Веденеев, А.В. Винтер и Г.О. Графтио.  

Все свои творения инженер посвящал неизменной музе — любимой жене Антонине Адамовне, которая всю жизнь трудилась в качестве его секретаря. Так, пуск и Нижне-Свирской, и Волховской ГЭС состоялись 19 декабря, в день их свадьбы. 

Генрих Осипович свободно владел английским, французским, немецким, итальянским и шведским языками. Выдающийся инженер, организатор производства, а с 1932 года и «промышленный академик», Графтио уделял большое внимание подготовке и формированию высших технических кадров. Начиная с 1907 года и до конца своей жизни он преподавал в Петербургском (Ленинградском) электротехническом институте (Аптекарский пр., 3), с 1921 года был там профессором, а в 1924–1925 годах — директором. Умер инженер 30 апреля 1949 года в Ленинграде. Похоронен на Большеохтинском кладбище Санкт-Петербурга.