呂端和兄長呂胤（后因避諱宋太祖名諱，改名余慶）都憑借父親的官職特權，先后蔭補入仕。呂胤以后進入趙匡胤幕府，參與了陳橋兵變，成為宋朝開國功臣，在宋太祖時代官至參知政事，屬天子身邊的親信。而呂端踏入官場后，也很快熟知了許多的明規矩潛規則。不過與常人相比，這位富家公子往往不計較長短，不在意得失，一句話便是缺乏急功近利之心，因此不免給某些精明者留下糊涂的印象。

    本朝建立時，年方25歲的呂端調任浚儀縣（今河南開封）知縣，也就是都城直轄縣的長吏，位處天子腳下。以后，胞兄在朝中的地位多少使他受益，遂順風順水，一路從知縣做到知州。有一年，朝廷派遣使臣出使遼朝，他被選出擔任副使，因他當時的官階不夠，還被特別假以更高的太常寺少卿的官名履職。到太祖皇帝晚年，他已出任西南重鎮成都府的知府。須知，蜀地人煙稠密、物產豐饒，從來是稱王割據的寶地。宋初以來，此地時常動蕩不安，故非朝廷極信任者不能到此就任。到開寶九年（976）兄長因病故去時，他已41歲，不能說政治上完全成熟，倒也深明大義，懂得了政壇的基本路數。

    呂端的性格決定了他從政的特點，便是為政寬簡，抓大放小，所到之處上下相安，百姓也免了不少折騰，故官聲口碑頗佳。

    太宗皇帝登基后，皇弟秦王廷美出任開封府尹。親王掛名首都長官，自然不可能親自料理各種庶務，朝廷須配置得力官員予以輔佐。于是，呂端被朝廷相中，從成都召回京城，出任開封府判官，成為京師地面上的實際管事者。

    上面說過，太宗以非常手段登上寶座，出于鞏固皇位的需要，打出了金匱之盟的旗幟，秦王廷美一時加官晉爵，并沿襲太宗過去的慣例，掛帥開封府。但老練的政治家早已洞悉其中的隱情，且不說賦閑在外的元老大臣趙普猜到個中內幕，看起來糊涂的呂端也明了此間的微妙之處。話說回來，他畢竟是有底線的人，既在其位就要謀其政，不能怕棘手便袖手旁觀，既要盡本分，也要對自己的頂頭上司能幫就幫。

    太平興國四年（979）二月，天子親征北漢前夕，考慮委任秦王為京師留守，負責內部一應事務。當幼稚的廷美打算接受如此重任時，呂判官立即私下勸說道：陛下不顧風雨辛勞，吊民伐罪，殿下乃天子至親，應當做扈從皇上的表率，若就這樣留在京城，怕是不合適的。聽罷如此肺腑之言，秦王馬上明智過來，便懇求隨駕出征，就此贏得了太宗的好感，答應了這一要求。此舉足以說明呂端在大事上的清醒程度，非常人可比。

    有道是，自古在京城當官都是件不易的差事，且不說當年皇親國戚、公卿百官定居于城內，還有各種來頭的人也都群聚于斯，稍不留意，就立馬惹來議論，弄不好還反映到宮里。故呂端在開封府的日子，總少不了高高低低、七七八八的事情。不過，他忙碌歸忙碌、cao心歸cao心，卻是習性不改，但凡遇見細碎瑣事，多大而化之，或交由下屬處理，有時實在抹不開面子就隨口應承。因此在朝臣中留下辦事糊涂的看法。這樣的糊涂，有時不免要付出代價。

    時間久了，秦王府內一些親隨人員熟知了呂判官的脾氣，便找他通融辦事。對上司身邊的人，他不能不給點方便，于是發生了販賣違禁貨物的事。此事舉報出來，天子就借機敲打威脅皇位繼承人秦王，于是下詔查辦。呂端因此遭到懲罰，被連降幾級，貶為商州（今屬陜西）司戶參軍。殊不知此次貶官，卻意外地使他及時脫離秦王府的圈子，避免了日后的危難，還成就了一番功業。

    二

    宋朝政壇的規矩還有值得稱道的地方，官員只要沒有重大罪行，遭貶之后總有復出的機會，這在中國歷史上相當突出。呂端貶謫外地后，不急不躁，淡然處之，時過境遷，也就被寬恕了。不久，他便獲得遷轉，先后在地方州衙、中央御史臺及太常寺任職。

    呂端自幼聰穎好學，成年后屬于有大智慧大聰明的人。他自知無科舉功名，學養欠缺，與當日政壇講究科舉出身的潮流不符，于是一面自己讀書，一面虛心求教他人。據記載，他入仕之初雖官位不高，卻因家底殷實，已開設專門的廚房，招攬文人食客，談古論今，講經論典，以彌補早年學業不足的缺陷，這一習慣一直保持多年不變。如此一來，隨著學識的不斷提升和閱歷的日漸豐富，加上為人寬厚沉穩，練達人情，他在政治上迅速成熟起來，從而受到高層的關注。

    當朝廷討論派使臣赴高麗國時，呂端再次入選。此時他的官階已夠，自然成為正任使節。在出使途中，暴風一度吹折了帆檣，船夫們驚恐起來，他卻鎮定自若，如往常一般照舊讀書，如此豁達氣概，令同行者欽佩不已?；爻?，他的表現想必給天子留下深刻印象，于是不久就被欽點為皇儲身邊的屬官。

    自皇弟廷美和皇侄德昭被逼死后，天子就開始考慮自己的繼承人。太宗共有九個兒子，長子元佐最早被作為太子培養，先后冊封為衛王、楚王。但當秦王廷美遭到父皇迫害時，這位皇嗣對官員們群起圍攻的做法深為不滿，不諳世情的他曾孤立無援地為皇叔求情，卻無法說動父皇，為此他深感痛苦，郁悶不堪。當秦王冤死荒山的消息傳入京城后，他受到刺激，悲痛欲絕，精神失常，以至于持刀隨意傷人，甚至縱火焚燒宮室。雍熙二年（985）九月，天子眼見楚王不可救藥，只得將其廢為庶人。此事對太宗的心理打擊不小，也算是一種報應。