한국전쟁이 발발하자 군사위원회 평안북도 전권대표로서 후방에서 북한군의 군량미를 생산하는 일을 했다. 이로 인해 김일성으로부터 로력훈장을 수여받았다. 남파활동을 벌이기도 했는데, 실제로 1954년 1월 25일 김원봉의 직접 지휘 하에 대한민국의 경제 혼란 및 선거 방해를 목적으로 남파된 간첩단 4명이 체포되었다.이후 김일성과의 정치 암투에서 패배하여 1958년 10월 '반국가적 및 반혁명적 책동의 죄'로 대의원 권한이 박탈되었고, 체포되었다고 한다. 그의 사망에 관해서는 자세히 알려진 바가 없으나, 정치범수용소에서 청산가리를 먹고 자살했다는 설이 가장 유력하다. 경상남도 밀양에 의열 기념관이있다.