김 위원장은 영천 출신으로 경북고와 서울대 경영학과를 나왔다. 1974년 민청학련 사건으로 서울대에서 제적된 이후 노동운동에 뛰어들었고, 청계천 피복공장 재단 보조공으로 일했다. 

1978년에는 전국금속 노동조합 한일도루코 노조위원장, 1985년전태일기념사업회 사무국장을 지냈고 서울지역 노동운동연합 창설을 주도했다. 

김 위원장은 박근혜 전 대통령 탄핵 과정에서 태극기 집회에 참여하는 등 탄핵 반대 입장을 강하게 피력하기도 했다. 문재인 정부 시절인 2020년에는 전광훈 사랑제일교회 목사와 극우 성향의 자유통일당을 창당하고 대표로 활동했다.