1968年12月，在國(guó)家“上山下鄉(xiāng)”的號(hào)召下，祁俊作為“老三屆”來(lái)到陜西渭南地區(qū)的一個(gè)小縣城，在這里揮灑了三年青春歲月。1971年陜西黃河工程機(jī)械廠(chǎng)招工，作為知識(shí)青年，祁俊隨同其他將近400名知青一同被招進(jìn)工廠(chǎng)。陜西黃河工程機(jī)械廠(chǎng)建立于1964年，是國(guó)家建設(shè)的三線(xiàn)企業(yè)，當(dāng)時(shí)工程機(jī)械行業(yè)的三線(xiàn)企業(yè)除了黃河工程機(jī)械廠(chǎng)外，還有浦沅工程機(jī)械廠(chǎng)、長(zhǎng)江起重機(jī)廠(chǎng)、長(zhǎng)江挖掘機(jī)廠(chǎng)、長(zhǎng)江液壓件廠(chǎng)、天水風(fēng)動(dòng)工具廠(chǎng)。一機(jī)部給黃河工程機(jī)械廠(chǎng)的定位是中馬力推土機(jī)廠(chǎng)。祁俊進(jìn)入工廠(chǎng)時(shí)，廠(chǎng)里正在搞基礎(chǔ)建設(shè)，還沒(méi)有廠(chǎng)房。所以進(jìn)廠(chǎng)之后祁俊的工作是操作工程機(jī)械設(shè)備，也就是工程機(jī)械操作員。1974年黃河工程機(jī)械廠(chǎng)開(kāi)辦了721工大，祁俊又作為第一批721工大的學(xué)員辦理了脫產(chǎn)手續(xù)進(jìn)入工人大學(xué)學(xué)習(xí)，當(dāng)初選擇的專(zhuān)業(yè)是機(jī)制工藝（機(jī)械制造）。1976年畢業(yè)之后分配到黃河廠(chǎng)的柴油機(jī)車(chē)間做技術(shù)員，首先是編制工藝。后又被調(diào)任到車(chē)間做計(jì)劃和調(diào)度工作。后來(lái)升為廠(chǎng)里生產(chǎn)科的技術(shù)調(diào)度員，管理全廠(chǎng)冷加工的計(jì)劃和調(diào)度。再后來(lái)又回到車(chē)間做車(chē)間副主任、主任、支部書(shū)記，經(jīng)過(guò)一段時(shí)間的鍛煉又回到廠(chǎng)里做總調(diào)度室主任，廠(chǎng)長(zhǎng)助理，副廠(chǎng)長(zhǎng)，直到1991年。祁俊的愛(ài)人是北京知青，1991年為了解決孩子上學(xué)的問(wèn)題已經(jīng)回到北京，隨后祁俊被調(diào)到機(jī)械部人事司的企業(yè)勞資處。
黃河工程機(jī)械廠(chǎng)的工作經(jīng)驗(yàn)，讓祁俊對(duì)基層的每一個(gè)環(huán)節(jié)有了詳細(xì)的了解。特別是在管理的時(shí)候，不管冷加工和熱加工，包括每一個(gè)班組和加工工具的使用和具體要求，祁俊都親身經(jīng)歷過(guò)，對(duì)企業(yè)也有了更深的認(rèn)識(shí)。而在部委的工作則讓祁俊從宏觀上、從國(guó)家政策和大局層面用宏觀的角度去看待問(wèn)題，這些對(duì)祁俊的工作有很大的影響和提高。