1889년 8월 14일 평안북도 의주군(義州郡) 광평면(廣坪面) 청수동(靑水洞)에서 태어났다. 호는 송암(松菴)과 순천(順天)이다. 태어난 지 겨우 여덟 달만에 생모 한씨(韓氏)가 사망해 할머니 품에서 자랐다. 하지만 할머니도 세 살 되던 해에 돌아가시고 큰어머니 밑에서 자라야만 하였다. 7~8세부터 사촌과 함께 사숙을 다녔다. 파란 많은 유아기와 소년기를 보내다 열두 살이 되던 해에, 유랑생활을 하던 부친이 계모인 백씨(白氏)와 함께 집으로 돌아와 생활하게 되었다. 계모 백씨는 현숙(賢淑)한 여인으로 어린 전처의 자식을 성심껏 양육하였다. 훗날 정의부 의용군사령관으로 활동하다 1927년 체포되어 감옥에 있을 때도 노모 백씨는 눈물을 흘리며 아들을 걱정하였고, 자신 또한 사촌들에게 70이 넘은 늙은 어머니의 봉양을 충심으로 부탁할 정도로 모자간의 정이 깊었다. 유아기에 생모를 잃고 불우한 어린 시절을 보냈지만, 천성이 강직하고 정의로운 성품을 지녔다. 게다가 온화한 품성까지 갖추어 항시 많은 친구들이 따랐다. 이러한 성격은 성장하면서 타인을 감화시키고 자기편으로 만들 수 있는 능력이 되어, 후에 만주에서 독립운동을 하던 시기에는 많은 청년들이 말을 듣고 쉽게 독립군이 되었고, 목숨을 내 놓고 일제를 상대로 무장투쟁을 벌였다.

18세가 되던 해에 이양숙(李陽淑)을 맞아 결혼하였다. 그리고 같은 해에 의주읍으로 나가 의성(義成)학교에 입학해 1년간 교육을 받고, 다시 평양으로 가 안창호(安昌浩)가 설립한 대성학교(大成學校) 사범과에 들어갔다. 대성학교에 다니며 신실한 기독교 신자가 되었다. 공부를 하는 동안 교육이 얼마나 중요한가를 깨닫게 되어, 학생 신분이었지만 큰아버지께 부탁해 고향에 일신학교(日新學校)를 설립하였다. 2년 과정의 대성학교를 졸업한 후 고향으로 돌아가 일신학교에서 교편을 잡고, 고향의 청소년들을 모아 학과교육은 물론 애국사상을 함양시키는 교육 사업을 펼쳤다.

이러한 교육 사업을 전개하던 중 일제는 안창호가 설립한 대성학교를 1912년 강제 폐교시키고, 졸업생들을 불온사상을 가진 자들이라 하여 잡아들였다. 1907년 설립되어 5년여 동안 운영되었지만 졸업식은 19명의 졸업생을 배출한 1912년의 제1회 졸업식 한 번 뿐이었다. 대성학교 졸업생이라는 이유로 일제에 끌려가 청성진 헌병대 구치소에 갇혔다. 그리고 일신학교와 서적을 비롯한 모든 학교 소유물은 몰수되고 폐교되었다.

풀려나자마자 몰수된 교사를 다시 매수해 이번에는 교회를 세웠다. 농민들과 함께 땅을 일구며 기독사상을 전도해 향리인 청수동뿐만 아니라 주변 마을사람들까지 교회로 나오게 만들어 교인의 수가 일시 수백 명이 되었다. 교회 사업에 한창 몰두하고 있을 즈음, 1919년 만세운동이 일어났다. 이 때 의주에서 목사를 하고 있던 민족대표 33인 중 한 사람인 유여대(劉如大)가 만세시위 참가를 권유하는 연락을 해 왔다. 이에 90여 리나 떨어진 의주읍까지 걸어가 군중을 이끌고 며칠에 걸쳐 ‘대한독립만세’를 외치며 일제에 대항하였다.

만세시위가 소강 상태에 이르자 고향에 돌아 왔으나 일제는 체포령을 내렸다. 지인들을 통해 체포령이 떨어졌음을 알게 되자 즉시 야밤을 틈타 압록강을 넘어 만주로 넘어갔다. 고향 청수동은 압록강과 접해있는 국경지역으로 강만 건너면 바로 서간도의 콴뎬현(寬甸縣)이었다. 콴뎬현 안자구(安子溝)에 근거지를 마련하고 독립운동을 위해 첫 번째 벌인 사업은 1919년 6월 장덕진(張德震)·윤하진(尹河振)·박태열(朴泰烈) 등과 함께 청년들을 모아 광제청년단(廣濟靑年團)을 설립한 것이다. 광제청년단은 세력을 확대하기 위해 군자금을 모집하는 한편 국내에서 넘어오는 청년들을 계속 단원으로 가입시켰다.

광제청년단이 이 같은 활동을 벌이고 있을 때, 만주와 국내 여러 지역에 80여 개의 청년단이 조직되어 독립운동을 펼쳤다. 당시 콴뎬현에는 안병찬(安秉瓚)이 대한독립청년단을 조직하였다. 안병찬은 1919년 12월 자신이 이끄는 대한독립청년단을 비롯해 국내외 청년단을 연합해 대한청년단연합회(大韓靑年團聯合會)를 창립하였다. 광제청년단도 연합회의 일원이 되었다. 대한청년단연합회의 간부는 총재 안병찬, 부총재 김찬성(金燦星), 총무 김승만(金承萬), 재무부장 김시점(金時漸) 등이었다. 대한청년단연합회는 1920년 1월 1일부터 『대한청년보(大韓靑年報)』라는 기관지를 발간하여 한국 독립의 정당성을 내외에 선전하였다. 이와 함께 대한민국 임시정부와 연결하여 교통업무, 군자금 모집 등 임시정부의 일정 업무를 추진하기도 하였다. 중앙조직에 가입하지 않고 자신이 설립한 광제청년단을 이끌며 연합회의 업무를 함께 수행하였다.

청년단연합회가 임시정부와 연결되어 광복 사업을 추진한 까닭에 교통국 조직 중의 하나인 강변8군(江邊八郡)임시지방교통사무국에 적을 두고 활동하였다. 강변8군이란 삭주·창성·벽동·초산·위원·강계·자성·후창 등 압록강변의 8개 군을 가리킨다. 광제청년단의 대표였지만 강변8군 임시지방교통사무국의 참사(參事)로 1919년 10월 26일 김응식(金應植)과 함께 이들 8개 군에 잠입해 약 40일간 임시정부의 활동을 홍보하고 청년들을 대상으로 독립군을 모집하기도 하였다.

1920년 5월 하순에는 임시정부에 연락을 취해 자신이 직접 상하이(上海)로 가 폭탄과 권총 등 무기를 구입해 만주로 운반해 오기도 하였다. 이 때 안동현에 있는 아일랜드인 쇼(George L. Shaw)가 운영하는 안동(安東, 현 단둥(丹東))의 이륭양행(怡隆洋行)을 통해 회사 소유의 배를 타고 상하이까지 갔다가 돌아왔다. 그렇게 할 수 있었던 것은 임시안동교통사무국이 쇼의 지원을 받아 이륭양행 내에 설치되었기 때문이었다.

1920년 초반부터는 서간도의 각 독립군단을 하나로 통합하는 운동을 펼쳤다. 1920년 2월 김승학(金承學)·안병찬·이탁(李鐸) 등이 상하이로 가 협의한 결과 임시정부 직속의 통합 독립군단인 광복군을 설치한다는 방안이 마련되었다. 따라서 대한청년단연합회를 비롯한 서로군정서(西路軍政署)·평안북도독판부(平安北道督辦府)·민국독립단(民國獨立團) 등은 통합해 광복군을 설립하고 참리부(參理部)·사령부(司令部)·군영(軍營) 등을 설치하였다. 참리부장에는 조병준(趙秉準)이, 사령장에는 조맹선(趙孟善)이 선임되었다. 이때 군영의 제2영장을 맡는 동시에 특수 부대인 광복군총영(光復軍總營)을 조직해 총영장이 되었다. 총영 내에는 총영장이 직접 관할해 지휘하는 병력과 국내에 설치된 천마(天摩)와 벽파(碧波) 두 별영이 소속되어 있었다.

총영장으로서 직할부대를 움직여 벌인 첫 번째 작전은 1920년 8월 미국의원단 일행이 한국에 입국하는 것을 기회로 유격대를 국내에 파견한 것이었다. 미의원단이 국내에 체류하는 동안 일제에 타격을 줄 큰 사건을 일으켜 한국 독립의 정당성을 국제 사회에 알리고자 한 의도였다. 같은 해 7월 단원인 안경신(安敬信)·박태열·장덕진·문일민(文逸敏)·정인복(鄭仁福)·임용일(林龍日)·이학필(李學弼)·김영철(金榮哲)·김최명(金最明)·김성택(金聖澤) 등에게 권총과 폭탄을 휴대시켜 국내로 잠입시켰다.

안경신·박태열·장덕진·문일민 등은 폭탄 3개와 권총을 휴대하고 국내로 들어와 평양으로 오는 도중 7월 30일 평남 안주군 연호면(燕湖面) 동사리(東四里)에서 안주경찰서 소속 순사인 미야토 소사부로(宮東宗三郞)가 검문하려하자 장덕진이 권총을 발사해 사살하였다. 그리고 계속 평양까지 가 8월 3일 평남도청에 폭탄을 던져 건물 일부를 폭파시켰다.

정인복과 김모 두 대원은 폭탄 두 개를 휴대하고 신의주(新義州)로 들어갔다. 이들은 8월 15일 오후 9시경 신의주 정거장 내에 있는 호텔 계단에 폭탄을 투척해 정거장 일부를 파괴하고 주변 사람들에게 경각심을 일으키도록 하였다. 임용일·이학필 대원도 두 개의 폭탄을 휴대하고 평북 선천읍으로 잠입하였다. 이들은 9월 1일 선천읍내에 있는 선천경찰서 현관에 폭탄 1개를 투척해 건물 일부를 파괴시켰다. 계속해 선천군청으로 달려간 두 사람은 다시 건물 내에 폭탄을 투척해 건물이 파괴되었다. 이들 특파원들이 체포되어 재판받을 당시 그들을 파견한 인물이 총영장 오동진이라는 사실이 밝혀져 궐석재판으로 10년을 받기도 하였다.

광복군총영과 마찬가지로 서간도의 여러 독립군단들도 일제를 몰아내기 위해 국내진입 유격전을 펼쳤다. 서북간도 독립군들의 대일항전은 1920년 6월 봉오동전투와 같은 해 10월에 전개된 청산리전투까지 이어져 일제의 침략을 응징하기에 이르렀다. 그러나 청산리 전투 후 일제는 ‘경신참변(庚申慘變)’을 일으켜 서북간도 지역의 독립군뿐만 아니라 한인을 대상으로 학살을 자행하였다. 1920년 10월부터 해를 넘긴 이듬해 4, 5월까지 이어진 일본군의 만행으로 서북간도의 한인 3천 6백여 명이 살해되었고, 3천 3백 채가 넘는 한인의 삶의 터전들이 불에 타 사라졌다. 서북간도에서 이러한 일제의 만행이 자행되고 난 뒤, 독립군들은 1922년 1월 남만통일회(南滿統一會)를 결성해 통합군단인 대한통군부를 결성하였다.

이어 같은 해 8월에는 아직 가담하지 못한 단체들에게까지 문호를 개방하기 위해 남만한족통일회의를 개최해 대한통의부(大韓統義府)를 결성하였다. 남만주 지역의 독립운동 단체를 총괄한 통일체가 이루어진 것이었다. 결성 초기 통의부 간부진은 총장 김동삼(金東三), 비서과장 고활신(高豁信), 재무부장 이병기(李炳基), 법무부장 현정경(玄正卿), 교통부장 오동진, 군사부장 양규열(梁圭烈), 사령관 김창환(金昌煥), 부총장 채상덕(蔡相悳), 민사부장 이웅해(李雄海), 교섭부장 김영만(金永萬), 학무부장 신언갑(申彦甲), 권업부장 최제윤(崔濟潤), 참모부장 이천민(李天民) 등이었다. 교통부장을 맡게 된 것은, 강변8군임시지방교통사무국 및 임시안동교통사무국의 업무를 담당한 경험과 의주 출신인 관계로 국경 지방의 지리에 밝았기 때문인 것으로 추정된다.

통의부의 활동 방향은 이주 한인을 대상으로 한 자치활동과 조국 광복을 위한 무장활동이었다. 자치활동을 위해서는 남만주에 거주하는 한인들을 중심으로 지방 조직을 설치하였다. 1천호를 기준으로 총관사무소(總管事務所)를 설치하고 책임자인 총관을 임명하였다. 총관의 밑에는 지역의 실정에 따라 100호 또는 200호로 1구(區)를 조직하여 책임자인 구장(區長)을 임명하였다. 이러한 방식으로 1923년 겨울까지 퉁화(通化)·환런(桓仁)·지안(輯安)·싱징(興京)·류허(柳河)·린장(臨江)·창바이(長白)·콴디엔 등의 현에 26개소의 총관사무소가 설치되었다. 이 지방 조직의 책임자로 임명된 총관과 구장은 관할 지역내 한인을 대상으로 행정 업무를 처리하는 한편 한인들을 보호하는 임무를 수행하였다. 아울러 통의부 조직의 자치와 광복사업 수행에 필요한 경비를 위해 관할 한인들로부터 의무금을 비롯한 각종 세금을 징수하는 업무를 수행하였다.

무장활동은 초기와 중기까지는 사령관 김창환의 주도로 의용군이 조직되어 수행되었다. 사령관 밑에 5개 중대와 유격대 및 헌병대가 편성되었다. 국내진공작전을 주 임무로 한 제3중대를 제외한 나머지 4개 중대 밑에는 각각 3개씩의 소대가 편성 되었고, 평균 100여 명의 병력이 배치되었다. 최시흥(崔時興)이 중대장인 제3중대는 5~10명 정도의 소규모 유격대를 편성해 수시로 국내로 진입하였고, 또 국내에서 대원을 모집해 활동한 경우도 있어 병력을 정확히 추산하기 어렵다. 이러한 체제를 갖춘 통의부 의용군은 국내와 만주를 무대로 일제의 기관과 수뇌부, 그리고 친일파를 처단하였다.

1922년 12월 의용군은 3개의 파견대를 구성해 창춘(長春)에서 다롄(大連)까지 이 지역 내의 친일파들을 척결하는 작전을 벌였다. 1924년 6월에는 펑톈(奉天) 보민회장과 일본 외무성 촉탁을 역임한 대표적 친일파 최정규(崔晶圭)를 처단하였다. 국내진입전에서는 1923년 6월 20일 유격대가 신의주 고령삭면(古寧朔面)의 영산주재소를 습격하였고, 또 다른 유격대는 같은 해 8월 청성진주재소 및 세관출장소·우편국 등을 습격하여 큰 전과를 올렸다.

한편 통의부는 1922년 후반 구성원 간에 이념의 갈등이 생겨 분열하는 국면을 맞았다. 통의부 성립 당시 각 구성원들은 이전의 이념과 노선은 무시한 채 하나로 통합하기로 합의하였다. 그러나 시간이 가면서 광복 후 왕정복고를 주장하는 대한독립단(大韓獨立團) 계열과 양기탁(梁起鐸)·현정경(玄正卿) 등 공화주의파들이 대립하게 되었다. 그 결과 복벽주의 계열의 인사들이 1923년 2월 대한의군부(大韓義軍府)를 설립해 통의부에서 떨어져 나갔다.

이러한 일들로 내부의 혼란이 있고 난 후, 1923년 후반 통의부는 조직의 직제를 간소화시켜 개편하였다. 총장 밑에 민사·군사·재무·학무·교통·실업 등 6부만 두었던 것이다. 이 때 재무부장을 맡았다. 독립운동 단체에 있어 재무부장이란 조직내에서 가장 정직하고 신망을 받는 인물이 맡는 직책이었다. 이 같은 일의 총책임을 맡았다는 것은 독립군 사회에서 신뢰도와 정직성이 충분히 인정받고 있었음을 증명해주는 것이었다. 그런데 재무부장에 취임하고 약 6, 7개월이 흐른 1924년 7월 2일, 의용군 사령관인 신팔균(申八均)이 싱징현(興京縣) 이도구(二道溝)에서 부하들에게 훈련을 시키던 중 귀순한 마적으로 구성된 중국 지방군의 공격을 받고 사망하였다. 신팔균이 사망한 후 통솔력이 뛰어나고 경험이 많은데다 만주 지리에 밝았기 때문에 의용군사령관에 취임하였다. 아울러 무장활동의 행정 책임자인 군사부장의 직책까지 맡았다. 사령관 취임 후 국경 지방인 평안도 내에서 통의부 의용군의 활동이 한층 활발해졌다.

그런데 의군부 이탈 후, 사령관을 맡기 이전인 1924년 초, 의용군 1중대장인 백광운(白狂雲)을 비롯한 박응백(朴應伯) 등이 임시정부 인사들과 협의를 거쳐 대한민국 임시정부 육군주만참의부(陸軍駐滿參議部)를 조직해 통의부에서 분립해 나갔다. 그 결과 독립운동 세력의 통합을 기치로 해 세워진 통의부의 세력은 한층 약해질 수밖에 없었다. 이에 만주독립운동계의 지도자들은 또 다시 통합운동을 벌였다. 이장녕(李章寧)·지청천(池靑天) 등이 주도해 1924년 3월 하순 전만통일회의주비회(全滿統一會議籌備會)를 조직하고, 7월에는 전만통일회를 성립시켰다. 그리고 그 해 11월 24일 통의부·서로군정서(西路軍政署)·대한광정단(大韓光正團)·의성단(義成團)·고본계(固本稧)·길림주민회(吉林住民會)·노동친목회(勞動親睦會)·카륜자치회(卡倫自治會) 등 8개 단체가 통합에 합의해 정의부(正義府)를 성립시켰다.

정의부는 하얼빈(哈爾濱) 이남의 남만주에 거주하는 한인을 관할하며 입법·사법·행정의 기구를 설치해 자치활동을 펼치며 항일무장투쟁을 전개한 군정부(軍政府)의 단체였다. 입법기관인 중앙의회에서 법률을 제정하면 중앙행정위원회와 그 소속인 민사·군사·법무·학무·재무·교통·생계·외무 등 8개 부서는 이를 집행하였다. 그리고 중앙심판원은 조직원과 관할민의 준법사항을 심판하였다. 이들 중앙조직 밑에는 환런·류허·퉁화·콴디엔·싱징·하이룽(海龍)·창바이·린강 등에 거주하는 한인을 기반으로 통의부와 유사한 지방조직을 설치하였다. 그런가 하면 자치활동을 통해 축적된 경제력을 바탕으로 의용군을 설치해 독립군 기지를 한층 견고히 다지며 항일무장투쟁을 펼쳤다. 성립 초기, 의용군은 한 병영에 모여 있는 것이 아니라 지방조직이 설치된 관할지역 곳곳에 분산 배치되어 산업활동에 종사하면서 독립군의 임무를 수행하는 둔전병제(屯田兵制)에 바탕을 두고 운영되었다. 그러다 1920년대 중반 이후부터는 일제의 만주침략이 가속화되자 관할 한인 사회에서 지원되는 경제력을 바탕으로 항일무장투쟁에 전념하는 노선을 취하였다.

초기 중앙조직은 중앙행정위원장 이탁(李沰), 민사위원장 현정경, 군사위원장 지청천, 법무위원장 이진산(李震山), 학무위원장 김용대(金容大), 재무위원장 김이대(金履大), 교통위원장 윤병용(尹秉庸), 생계위원장 오동진, 외무위원장 김동삼 등이었다. 그리고 중앙심판원장에는 김응섭(金應燮), 간정원 비서장은 김원식(金元植), 의용군 사령관은 군사위원장인 지청천이 겸임하였다. 위원장을 맡은 생계위원회에는 초기에는 산업과만 하부 조직으로 있다가 1925년 5월 15일 현실에 맞게 직제를 변경할 때 산업과를 없애고, 실업(實業)·식산(殖産)·노동(勞動) 등 3개과를 만들었다. 실업과는 관할 한인들의 농·상·공업과 관련된 업무를 선도하고 지원하는 업무를, 식산과는 농지 경영과 농산물 유통 등의 문제를, 노동과는 한인들이 차별받지 않고 효율적으로 노동할 수 있도록 지도하고 보호하는 업무를 수행하였다. 단적으로 말해 생계위원회는 정의부 관할지역내 한인의 경제력 확보를 주목적으로 하는 부서였다. 때문에 생계위원장으로서 1926년 5월 손정도(孫貞道)·현정경·김이대 등과 함께 대규모 공동농장 건립을 목표로 한 유한농업공사(有限農業公司)를 건립하였다. 이 농업공사는 5년간 30만원의 자본금을 만들어 대규모의 토지를 구입해 관할 한인들이 공동으로 경작하고 그 소출을 나누는 사업을 추진하였다. 설립 2개월만인 7월에 상당한 규모의 황무지를 구입해 개간에 착수함으로써 성공적인 출발을 알렸다. 그러나 1920년대 중반 이후 일제의 사주를 받은 중국 측이 한인에 대한 압박을 가속화하고, 당장 끼니를 걱정하는 한인들이 많아 장기간에 걸친 꾸준한 노력을 경주하기는 어려웠다. 그러나 개간지 농업은 꾸준히 진행돼 처음 목표한 바는 이루지 못했으나 일정한 소득을 산출할 수는 있었다.

1927년 4월부터 정의부는 관할 한인의 산업부흥과 위생·보건·교육 등 총체적인 생활 향상을 도모하기 위한 기구인 농민호조사(農民互助社)를 결성하였다. 35인 발기인 중에는 정의부 간부 대부분과 안창호가 포함되어 있었다. 농민호조사 결성을 위해 만주를 방문한 안창호는 1927년 초 지린성 동대문(東大門) 밖 대동공사(大東公司)에서 한인들을 모아놓고 한인 사회의 경제력 향상을 위해 연설을 하였다. 이 상황을 파악한 일제는 중국 측에 압력을 가해 참가자들을 체포하도록 하였고, 안창호와 지도자들이 구금되었다. 체포된 지도자들은 임정과 흥사단 등의 항의로 풀려났고, 이후 힘을 합해 만든 것이 농민호조사였다. 재만 한인들에게 출자금을 받아 집단 농촌을 만들고 이를 운영해 한민족의 경제적 진로와 조국 광복의 길을 찾고자 한 것이 농민호조사의 목표였다. 하지만 같은 시기 추진된 민족유일당 운동과 겹쳐 역량을 한 군데로 집중하지 못한 결과 큰 성과는 거두지 못하였다.

한편 1925년 10월 10일에는 임시정부 국무위원에 선임되기도 하였다. 제2대 박은식(朴殷植) 대통령을 끝으로 임시정부는 대통령제를 끝내고 국무령제를 선택하였다. 그리고 초대 국무령에 서간도지역의 독립운동을 줄기차게 이끌어 온 이상룡(李相龍)이 취임하였다. 국무령 이상룡은 9명의 국무위원을 임명했는데 그 중 8명이 김동삼·김좌진(金佐鎭) 등 만주 독립운동계의 인물이었다. 하지만 국무위원에 임명된 만주 독립운동계 인물들 모두는 취임을 거부하고 상하이로 가지 않았다.

국무위원 취임을 거부하는 대신 1926년 4월 5일 양기탁(梁起鐸)·최동희(崔東羲)·정이형(鄭伊衡) 등과 고려혁명당(高麗革命黨)을 설립하였다. 이 당은 정의부와 형평사, 천도교 측 인사들이 민족의 역량을 한군데로 모아 총합된 힘으로 조국을 광복시킨다는 목표를 가지고 만든 단체였다. 체계적인 활동을 위해 고려혁명당은 1926년 4월 16일부터 같은 해 8월 21일까지 11개의 세포 기관을 조직하였다. 창립 초기 중앙심사위원이 되었다가 세포 기관이 조직되고 있던 5월 20일에는 간부회의 중 회의를 주재하는 의장의 자격으로 중앙본부의 위치를 하얼빈으로 이전토록 하는 결정을 내렸다.

이러한 고려혁명당은 위원 이동락(李東洛)이 1926년 12월 28일 창춘에서 체포되면서 이 단체의 전모가 일제에 발각되어 위기를 맞았다. 명단을 파악한 일제는 서울과 인천에서 고려혁명당에 가담한 형평사 간부들을 체포하였고, 천도교 측 인사들도 만주와 서울 동대문 등지에서 검거해 들였다. 또한 정의부측 인사인 정이형이 1927년 3월 11일 동지 7명과 함께 하얼빈에서 체포되면서 어려움을 겪었다.

1925년 후반 정의부 중앙조직 내부는 입법과 행정기관 간에 서로 갈등이 일어나 중앙의회는 중앙행정위원회를 불신임하고, 중앙행정위원회는 중앙의회를 해산하는 사태가 발생하였다. 이에 분란을 타개하고자 의용군과 지방조직이 대표자들을 선출해 1926년 1월 24일 군민대표회(軍民代表會)를 결성하였다. 군민대표회는 새로이 중앙조직을 구성해 약 반년 정도 활동하다 해산하였다. 1926년 중반 정의부는 중앙조직을 개편하였다. 이에 따라 그는 고려혁명당의 간부로 활동하면서도 정의부 군사위원장 겸 의용군사령관에 취임하였다.

정의부 독립군의 총책임자로서 무장투쟁에 진력하기 위해 우선 의용군조직을 전면 개편하였다. 중대장급의 인물 3명을 사령부 부관 2명, 경리 1명으로 임명해 지휘부를 강화하였다. 그리고 전투력이 강한 대원들로 유격대를 새로 편성해 중대와 대등한 위치에 두었다. 이같이 편제를 강화한 후 포고문과 계획안들을 발표해 의용군의 군기를 확립하고, 조직원들의 자질 향상을 도모하였다. 먼저 관할 각 지역에 분산배치 되어있는 의용군 각자의 연령과 신체등급·학력·가족관계 등을 면밀히 파악해 현역병·교양병·유학병(留學兵) 등으로 분류하였다. 현역병들로 선발된 독립군은 항일전을 치루기에 최적의 지역에 배치되었다. 교양병으로 분류된 사람들은 군사훈련소에 보내져 정식 독립군이 되기 위한 교육을 받도록 하였다. 독립군 지휘관으로 발전할 가능성이 있는 사람들은 유학병으로 분류되어 광둥(廣東)이나 소련의 무관학교로 보내 사관교육을 받도록 하였다.

의용군의 체질이 강화되자 정의부의 항일무장투쟁 성과는 한층 높아졌다. 그와 비례해 독립군들이 일제와 항일전을 치르다 희생되는 경우가 많아졌다. 이에 정의부와 함께 남만주에서 활동하고 있는 한족노동당(韓族勞動黨)·남만청년총동맹(南滿靑年總同盟)에 연락해 1927년 3월 1일 조선혁명자후원회를 발족하였다. 이 단체는 독립운동을 하다 희생당한 본인과 그 가족을 후원하는 단체였다. 이 후원회에는 친일 분자가 아니면 누구나 가입 가능하였고, 입회금은 현대양(現大洋) 10전(錢), 매년 지원금은 현대양 20전이었다. 이러한 노력으로 정의부의 항일무장투쟁은 한층 활발해지는 동시에 안정감을 찾아갔다. 이러한 활동을 하던 중 1927년 12월 16일 창춘에서 일제의 밀정 김종원의 밀고로 신의주경찰서 고등계 형사인 김덕기에게 붙잡혔다.

이후 신의주지방법원과 평양복심법원에서 무기징역을 받고, 상고를 포기하여 경성형무소에 수감되었다. 감옥에서도 조국 광복에 대한 믿음을 굳게 가져 자신의 종교인 기독사상에 의지하며 장기간 단식기도를 수행하기도 하였다. 1934년 7월 20년형으로 감형되었다. 1944년 공주형무소로 이감되었다가, 같은 해 12월 1일 옥중에서 사망하였다.

대한민국 정부는 1962년 건국훈장 대한민국장을 추서하였다.

청수동에 있던 오동진의 집 [판형3]

광복군총영 제1회 총회 회의록 관련 일제 측 보고(1922. 10. 26) [판형3]

오동진 국무원 선임 보도(『독립신문』 1925. 10. 21) [판형3]

오동진 부인이 작성한 회견기(『동아일보』 1928. 2. 11) [판형3]

고려혁명당 사건 관련 오동진 심문 보도(『동아일보』 1928. 3. 18) [판형3]

오동진 옥중 단식 보도(『동아일보』 1934. 7. 19) [판형3]

오동진 추도회 보도(『자유신문』 1945. 12. 4) [판형3]

|참고문헌|