1951년 1월 육군본부 정보국에서는 ‘육본 정보국 각서 제24호’로 대구 달성초등학교에 있던 제7훈련소를 통해 전투정보 장병과 유격대원을 양성하기 위해 육본 작전국 편제과의 협조를 받아 결사유격대를 새로 창설했다. 백골병단은 후에 별칭으로 붙여진 이름이다. 대원들은 교육훈련을 마치고 ‘대통령 명령’(1951.1.25일자)에 의하여 국방부장관 신성모 명의의 임관사령장을 받았다.

결사유격대는 1951년부터 2월 중순까지는 각 부대별로 활동하였고 그 후 20일 적이 점령 중인 강원도 명주군 연곡면 퇴곡리 일대에 3개 연대가 집결하자, 채명신 중령이 육군본부 지시에 의하여 결사유격대 3개 연대 병력과 사기막리와 퇴곡리에서 자원 입대한 청장년을 규합해 부대명을 ‘백골병단’으로 명명하였다.

결사유격대는 제11, 제12, 제13, 제15, 제16연대 및 특별대 등의 순서로 편성되었다. 유격대 명칭가운데 결사유격 제11연대로 시작한 것은 채명신 중령이 38선에서 북한군과 첫 교전을 했던 제11연대를 염두에 두고 결정한 것이었다. 각 연대의 규모는 11연대 360명, 12연대 360명, 제13연대 194명, 15연대 194명, 16연대 297명, 특별대 24명 등 총 1,430명에 이른다.

이들에 대한 교육은 제7훈련소에서 연대별로 실시되었다. 당시 채명신 중령은 게릴라전을 수행하기 위해 최소한 3개월 정도의 훈련이 필수적이라고 주장했으나, 3주 ∼ 8주간으로 계획이 수립되었다. 때문에 간부들에게 독도법을 가르칠 시간도 없었다. 피복과 장비는 이후락 정보국 차장과 이극성 중령이 구해 충당했고, 군복은 북한군 피복을 모방하여 누비바지로 된 방한복을 특별히 제조한 것이었다. 무기는 북한군이 쓰던 소련제 장총과 기관단총 등 노획한 무기를 지급받았다. 

대원들은 교육훈련을 마치고 1951년 1월 25일자로 대통령 명에 의하여 국방부장관 신성모 명의의 임관사령장을 받았다. 그 당시 육군본부 정보국장이던 육군준장 이한림 장군이 계급장을 수여했다. 민간인 124명에게 GO1001번부터 1124번까지 임시 소위부터 소령 계급이 부여되었다. 사병은 병장으로부터 중사까지 G 군번을 부여받았다. 대원들이 같은 훈련을 받았지만 계급이 차등 있게 부여된 것은 중고등교육을 이수한 자를 우대했기 때문이었다.

훈련을 마친 결사유격대는 1951년 1월말부터 4월초까지 60여일간, 강원도 영월, 평창, 양양, 인제 등지의 적 후방에서 활동했다. 부대 임무는 적 연락장교 생포, 지휘소 습격, 애국청년포섭과 기밀문서 획득, 생산기관 파괴 및 교란 보급로 파괴, 적의 투항 및 귀순 공작, 첩보망 구축, 민중조직 확대 등이었다. 대원들이 출동할 때 육해공군 총참모장 정일권 소장, 제1군단장 김백일 준장, 수도사단장 송요찬 준장, 미 제8군 군사고문단 하우스만 중령, 미 제8군 정보연락장교단장 이극성 중령 등의 사열과 훈시가 있었다.

 
결사유격대 제11연대는 1951년 1월 30일 새벽 연대장 채명신 중령의 인솔 아래 대구 육군 제7훈련소를 떠나 군용트럭을 이용하여 강원도 영월군 영월읍에 위치한 국군 제7사단 전방지휘소에 도착하였다. 이곳에서 추가적인 보급을 받고 31일 새벽 전진 후방으로 침투했다.

2월 10일 하진부리에 도착한 결사유격 제11연대는 식량을 확보하기 위해 채명신 연대장 지휘하에 3개 소대병력을 제2방어선상인 하진부리에 투입하였다. 이곳에서 연대는 적의 통신가설병을 비롯한 34명의 생포하고 식량을 획득한 후 진로를 수정하여 대관령을 넘어 명주군 성산면 보광리에 도착했다. 그러나 이곳에서는 식량조달이 어려워 사천면 사기막리로 북진하여 쌀 20여말과 소 3마리로 식량을 마련한 후 퇴곡리로 북상했다.

결사유격대 제12연대는 1951년 2월 4일 연대장 이두병 임시 소령의 인솔하에 차량을 이용하여 대구를 떠나, 경주-포항-삼척-묵호에 도착했다. 2월 6일 명주군 강동지서 앞에서 출동신고를 하고 장비 및 탄약, 식량 등을 수령하여 동일 강릉의 적 후방으로 침투했다. 2월 7일 침투에 성공한 12연대는 강릉새내에서 일부 패잔병을 소탕하고 구정방면을 거쳐 대관령을 넘어 평창군 도암면으로 이동했다. 

제12연대는 속사리에서 월정사 방면으로 진로를 수정하고 동북쪽으로 이동중 두일리 방면에서 북한군 제15사단 예하부대의 공격을 받았다. 연대는 적의 공격을 저지하기 위해 50여명의 병력을 계곡에 매복시켰으나, 그들의 공격이 완강하여 부득이 월정사방면으로 철수하였다. 당시 적의 주저항선이 오대산 일대였으므로 연대는 도처에서 적의 병력과 조우하게 되었다. 연대는 이곳을 탈출하여 적진 배후로 침투하기 위해 주문진 어성동 전투와 고교 전투에서 북한군 제7사단 1연대를 상대로 교전하여 타격을 주었다. 

결사유격대 제13연대는 1951년 2월초 연대장 김한철 임시 대위의 인솔하에 대구소재 정보학교를 떠나 부산으로 갔으나 다시 수송함으로 강원도 삼척군 묵호항에 도착했다. 대원들은 최종목표인 어은산을 향해 북한군이 배치되어 있는 것으로 추정된 정선군과 양양군을 피해 중간지역인 인제군 쪽으로 침투했다. 이들도 주간에 자고 야간에 행군하면서 만난 빨치산들을 공격하여 전과를 올렸다. 1951년 2월 이후 주요전투는 설악산 지역에서 북한군 제69여단 기밀문서 노획과 길원팔 삘치산 지대장의 생포 작전이었다.

1951년 3월 30일 유격대원들은 국군 제7사단 제3연대 전면으로 귀환했다. 귀환한 병력은 결사 제11연대 170명, 제12연대 40여명, 제13연대 50여명 등 모두 260여명이었다. 대원들은 육군본부의 지시에 따라 4월 1일 강릉에 도착하였고 그곳에서 일부 병력이 합류하여 총 283명이 되었다. 귀환자수가 적었던 이유는 대원들이 충분한 훈련을 받지 못했고, 식량과 탄약 등 보급품이 부족한데다 3개 유격대 모두가 거의 동일지역에 투입됨으로 인하여 보급의 현지조달마저 용이하지 않았던데 그 이유가 있었다. 

1951년 4월 15일부로 육군본부는 제11, 제13, 제15, 제16, 특별, 제17, 제18연대 등의 작전 및 행정을 모두 미 제8군사령부 해리슨 중위의 지휘하로 편입시켰다. 그 후 1951년 7월 25일부로 육군본부에서는 동해지구유격대를 8월 1일까지 주문진으로부터 포항으로 이동시켜 제5군단에 배속하도록 지시했다.