1894년 6월 9일 경기도 광주 오포면 고산리에서 아버지 김정민(金正民)과 어머니 밀양 박씨의 장남으로 태어났다. 본관은 경주(慶州)이며, 호는 한결이다. 1898~1907년 5세에서 14세까지 고향에서 한문을 수학하였다. 1908년 4월 신교육을 받기 위해 상경하여 서울 서부 서강방 사립 우산牛山학교에 입학하였다. 1908년 의법학교(懿法學校)로 전학하여 1910년 고등과 1학년을 수료하였다. 18세 되던 해인 1911년 상동 사립 청년학원에 입학하여 주시경(周時經)에게 한글을 교육받고 큰 감화를 받았다. 1913년 청년학원을 졸업하고 같은 해 4월 마산 창신학교 고등과 교사로 임명되어 4년간 주시경의 국어문법을 강의하였다. 1917년 3월 연희전문학교에 입학하였다. 재학시절에 만세운동이 일어나자 시위 행진에 참여하였다. 또한 연희전문학교 학생회가 주도하여 서울 시내 고등보통학교 학생들과 함께 조선학생대회가 조직되자 회장에 피선되는 등 학생운동에서 활약하였다.

1921년 조선어연구회와 1922년 수양동맹회의 창립회원이 되어 국어·국문의 연구와 보급에 진력하였다. 1922년 배화여자고등보통학교 교사에 임명되어 국어와 역사를 가르쳤다. 1924년 9월 교장 부이(Hallie Buie)에게 여성교육에 헌신한 공로로 특별 상금을 받았다. 1925년 6월과 1926년 1월에 『조선말본』의 일부인 「조선말과 글」 과 「씨갈과 월갈」 을 각각 탈고하였다.

1926년 4월 학교에서 3년간의 도쿄 유학비를 받아 릿쿄대학(立敎大學) 문학부 사학과에 입학, 동양사를 전공하고, 1929년 3월에 졸업하였다. 같은 해 귀국하여 4월부터 배화여자보통 교사로 복직하였다. 같은 해 재임 중 조선어사전편찬위원회 준비위원에, 다음해인 1930년 12월에는 한글 맞춤법 통일안 제정위원으로 선출되어 활동하였다.

1931년 동아일보사의 지원으로 조선어학회 전국순회 조선어강습회에 강사로 참가하여 1천 6백여 명의 지도층 청년에게 국문법을 강의하고 민족의식을 고취시켰다. 1931년 1월부터 졸업논문인 「조선 문자의 역사적 고찰」 을 『동광』지에 18회까지 연재하던 중 휴간으로 중단되었다. 1934년 7월에는 조선어연구회를 확대 개편한 조선어학회의 조선어 표준어사정위원회의 위원으로 선출되어 외래어 표기법 제정에 기여하였다.

1934년 5월에는 이병기(李秉岐)·최현배(崔鉉培)·이은상(李殷相) 등과 함께 국사·국어국문을 연구하는 단체 진단학회의 창립 발기인이 되어 국학운동에 참가하였다. 1935년에 민족문화 보급 사업으로 이인(李仁) 등과 함께 조선기념도서출판관을 참가하여 제1차 사업으로 1938년 1월 『조선문자급어학사(朝鮮文字及語學史)』를 간행하였다.

1937년 6월 7일 수양동우회사건으로 붙잡혀 치안유지법 위반으로 예심에 회부되어 1941년 11월 고등법원에서 최종 무죄판결을 받을 때까지 4년간 투옥과 연금의 탄압을 받았다.

1942년 10월 1일 일제가 국어 말살정책의 일환으로 일으킨 ‘조선어학회 사건’으로 이극로(李克魯)·최현배 등과 함께 1차 구속되었고, 함남 홍원경찰서와 함흥경찰서로 압송되어 1년 동안 심문을 받고 치안유지법 위반으로 기소되었다. 1943년 9월 18일 함흥지방법원에서 기소유예 결정으로 석방되었지만, 실질적으로 1년간의 옥고를 겪었다.

1945년 광복과 더불어 조선어학회 상무이사로 봉직하면서 한글강습회를 개최해 강사로 활동했으며, 국어 교사 양성과 국어교본과 큰사전 편찬에 노력을 기울였다. 이후 연희전문학교 교수, 총장 대리, 문교부 사상지도원 전문위원, 국사편찬위원회 위원, 국어심의위원, 한양대 문리대학 교수, 문리대학장 등을 지냈다. 주요 저서에 『나라말본』, 『용비어천가 강의』 등이 있다. 1963년 문화훈장 대한민국장을 받았다.

대한민국 정부는 1990년 건국훈장 애국장(1977년 건국포장)을 추서하였다.

조선어철자법 통일안 토의회 개최 보도(『조선중앙일보』 1933. 7. 27) [판형1]

|참고문헌|