劉知遠,生于公元895年(唐昭宗乾寧二年),從小為人沉穩莊重,不好嬉戲。到了青少年時期,正值李克用、李存勖父子割據太原,劉知遠就在李克用的養子李嗣源(即后來的唐明宗)部下為軍卒。當時,石敬瑭為李嗣源部將,在戰斗中,劉知遠不顧自己的生死安危,兩次救護石敬瑭脫難。石敬瑭感而愛之,以其護援有功,奏請將劉知遠留在自己帳下,做了一名牙門都校。公元936年(唐清泰三年),劉知遠移鎮汶陽,升任馬步軍都指揮使。同年,石敬瑭得助于劉知遠等人謀劃,假借契丹軍的力量,消滅后唐,在開封稱帝,建立了大晉,是為晉高祖,為了報答契丹的幫助,石敬瑭不惜將燕云十六州割讓契丹,并稱比他小11歲的耶律德光為父,劉知遠對石敬瑭的做法不以為然,他認為:“對契丹稱臣即可,當兒子則太過分,多送些金帛使遼兵援助而不必以割地相許,割地會造成將來后患無窮”。果然,石敬瑭割讓幽云十六州給契丹,從此中原門戶大開,無險可守。
后晉建立后,劉知遠以其軍政才能和佐命功,歷任檢校司空、侍衛馬步都指揮使、點檢隨駕六軍諸衛事、許州節度使、朱州節度使、檢校太傅、北京(今太原)留守、河東節度使等職,日趨顯貴。
石敬瑭當了七年兒皇帝,于公元942年(晉天福七年)死去。養子石重貴即位,是為晉出帝,劉知遠也遷檢校太師,進位中書令。
公元944年(晉開運元年),契丹主耶律德光率軍南下,劉知遠作為幽州道行營招討使,在忻口大破契丹軍,累遷太原王、北平王,之后又在朔州陽武谷再破契丹。[劉知遠在這段時期的主要意圖是稱霸河東,成就王業,因此對朝廷的詔命半推本就,一方面不服調遣,作戰中逗留不進,另一方面也主動出擊一下。公元947年(開元四年),契丹進犯京師,劉知遠帶著少帝北出,遣牙將王峻向契丹奉表投降,晉朝滅亡。王峻回來后,對劉知遠說契丹政治混亂一定不能攻占中原,于是便商議建國。
同年,劉知遠看準時機,在太原稱帝,建立了漢政權。他不改國號,而是延用石敬瑭的年號,稱天福十二年。接著,劉知遠下詔禁止為契丹括錢帛;慰勞保衛地方和武裝抗遼的民眾;在諸道的契丹人一律處死等等。于是晉朝舊臣紛紛投誠歸附。契丹在中原人民抗擊下退出后,劉知遠又乘機進入開封并建都,改名字為暠,改國號為大漢,改天福十三年(公元948年)為乾祐元年,蠲免賦稅,大赦天下,稱帝。劉知遠果斷采納了皇后李氏的建議,一改過去靠括民財犒軍的慣例,而是拿出宮中所有財物賞賜將士,果然深得人心。契丹軍進入中原后,到處以“打草谷”的名義掠奪財務、殺害無辜百姓,中原地區人民反抗不斷,耶律德光被迫北撤,留蕭干守衛汴京,劉知遠看準時機,采納了郭威“由汾水南下取河南、進而圖天下”的正確建議,命史弘肇為先鋒,舉兵南下,一路勢如破竹,所向無敵,很快拿下了洛陽和汴京。
劉知遠穩定中原局勢后,令魏州的杜重威移鎮歸德(今河南商丘南),與原歸德節度使高行周對調,杜重威抗命不從,劉知遠令高行周與慕容彥超率軍討伐杜重威,杜重威誓死守城,漢軍日久無功,劉知遠恐生他變,親自來攻,死傷甚巨,劉知遠見強攻不克,多次遣人招降杜重威,許以不死,此時魏州糧草用盡,城中將士多逾城逃亡,十一月二十七日,杜重威出城投降,劉知遠言而有信,沒有殺杜重威,封其為檢校太尉,至此,中原基本上平定。
公元948年(乾佑元年)正月,劉知遠病危,召史弘肇、王章、蘇逢吉、郭威等人托孤,臨終前,劉知遠認為杜重威反復無常,于是授意托孤大臣除掉杜重威,隨即劉知遠駕崩,時年54歲。其子劉承佑繼位,是為漢隱帝。由于朝廷激烈的內爭,鄴都留守郭威和侍衛步軍都指揮使王殷等舉兵攻入開封,隱帝劉承佑被殺,漢朝滅亡,漢朝共傳二帝,歷時四年,是五代史上最短命的王朝。