1878년 11월 9일 평안남도 강서에서 태어났다. 

상경 후 구세학당에 입학하여 기독교인이 되었다. 1897년 독립협회에 가입하고 평양에서 만민공동회 관서지부를 발기하였으며, 1899년 강서지방 최초의 근대학교인 점진학교를 설립하고 남녀공학을 실시하였다. 

1902년 도미하여 1905년 공립협회(共立協會)를 창립하고 기관지 『공립신보』를 발행하여 교포들의 생활향상 및 의식계몽에 힘썼다. 

을사조약 체결 소식을 듣고 귀국하여 1907년 이갑·양기탁·신채호 등과 함께 비밀결사 신민회를 조직하고, 평양에 대성학교를 설립하며 태극서관을 건립하여 민족산업 육성에도 힘썼다. 

1909년 안중근 의거로 피체되었다가 이듬해 중국으로 망명하였으며, 1913년 샌프란시스코에서 흥사단을 창립하여 민족 지도자 양성에 힘썼다. 

1919년 3·1운동 직후 상해 임시정부 내무총장 겸 국무총리 대리로서 독립운동방략 작성, 연통제 수립 등을 실행하였다. 

1926년 좌·우 운동세력의 통합을 위한 유일독립당 결성을 추진하였고, 1930년 이동녕·이시영·김구 등과 함께 한국독립당을 창당하였다. 

1932년 윤봉길의 훙커우공원 의거로 피체되어 서대문·대전형무소에서 복역하였으며, 1937년 수양동우회사건으로 다시 수감되었다가 건강 악화로 보석되었다.

1938년 3월 10일 경성제국대학 부속의원에서 순국, 망우리공동묘지(현 망우역사문화공원)에 영면하였으나 1973년 도산공원으로 이장되었다.