1901년 1월 21일 함경북도 성진에서 태어났다.

1918년 만주 간도로 이주하여 두부 장수·건어물 장수 등 온갖 잡역을 전전하며 밑바닥 삶을 몸소 체험하였고, 이때의 처절한 경험은 훗날 빈궁문학의 밑거름이 되었다. 

1923년 조선으로 귀국하여 이광수와 서신을 주고받으며 문학을 수업하였고, 1924년 양주 봉선사에서 서구 문학을 중역하던 중 첫 단편소설 「토혈(吐血)」을 『동아일보』에 발표하며 등단하였다. 

1925년 『조선문단』에 「탈출기」를 발표하였다. 간도 유랑 시절의 처절한 체험을 서간체 형식으로 그려낸 이 작품은 조선 문단에 큰 반향을 일으켰다. 

같은 해 카프(KAPF)에 가입하여 「기아와 살육」 등 계급 의식이 짙은 작품을 발표하였으며, 1926년 창작집 『혈흔』을 발간하였다. 

1927년 간도로 이주한 조선인 소작농이 중국인 지주의 횡포에 맞서는 내용을 담은 「홍염」을 발표하였으며, 이는 카프 문학의 대표작으로 꼽힌다. 

1929년 카프를 탈퇴하고 『중외일보』 기자로 활동하다 1931년 『매일신보』 학예부장에 취임하였다.

1932년 7월 9일 별세, 한국 문단 최초의 문인장(文人葬)으로 치러진 후 망우리공동묘지(현 망우역사문화공원)에 영면하였다.