李遂，字邦良，豐城段潭人。弱冠之年，跟從歐陽(yáng)德學(xué)習(xí)，考取進(jìn)士，授官行人，歷刑部郎中，時(shí)錦衣衛(wèi)送來(lái)強(qiáng)盜十三人，李遂只用一人抵罪，其他的都被他分辨釋放。確立新太子時(shí)，皇上大赦天下，李遂請(qǐng)求將“大禮”大案諸臣都列在赦令中，尚書(shū)聶賢恐懼不敢，于是和同官一起向都御史王廷相求問(wèn)，王廷相聽(tīng)?wèi){他們這樣做，事情雖然沒(méi)有成功，但議者贊美他。不久他調(diào)到禮部，因忤逆尚書(shū)夏言，事情遭到彈劾而下詔獄，被貶任湖州同知。
李遂三遷衢州知府，注重風(fēng)化治理，閑暇時(shí)喜歡招友講學(xué)。處州民饑，李遂聚集眾人入境采礦，與推官李文進(jìn)輕騎直逼礦山，饑民焚寨而逃，封礦而歸。章圣皇后靈柩南運(yùn)，風(fēng)傳取道常山，指令衢州備車(chē)轎迎送。遂三次上書(shū)謂梓宮無(wú)由取道衢州。上司震怒擲書(shū)于地，催逼急如星火，遂不動(dòng)聲色，后果如所料。浙中各郡縣為此斂財(cái)物役百姓，怨聲四起，唯獨(dú)衢州上下安然。治衢任內(nèi)，盜賊斂跡，財(cái)賦充裕，百姓感戴。后提升為蘇、松兵備副使，又逐漸升職為廣東按察使，在位期間釋放囚徒八百多人。進(jìn)官山東右布政使。江洋多盜賊，于是遷右僉都御史提督操江。軍政嚴(yán)明，盜不敢發(fā)。
俺答侵犯京師，召李遂督蘇州軍餉，他沒(méi)有向皇上謝恩，就請(qǐng)求關(guān)防驗(yàn)符用新的官銜，世宗皇帝惱怒，削去他的官籍。倭寇侵?jǐn)_江北，朝廷討論說(shuō)因督漕都御史兼理巡撫，沒(méi)有時(shí)間對(duì)付敵寇，請(qǐng)求特別設(shè)置巡撫，于是命李遂用原官身份巡撫鳳陽(yáng)四府。當(dāng)時(shí)淮、揚(yáng)三次遭受倭寇侵掠，這一年又發(fā)大水，而且天天役使人民拉大木運(yùn)送到京師。李遂請(qǐng)求增加糧餉增加兵士，撫恤黎民節(jié)省開(kāi)支，這些措施都是為了戰(zhàn)、守作打算。
倭寇艦船數(shù)百艘犯海門(mén)，為了防止倭寇由泰州逼長(zhǎng)天、鳳陽(yáng)、泗州，進(jìn)犯明皇室寢陵，又為了防止倭寇由黃橋逼瓜洲、儀征，進(jìn)犯南京，梗塞糧道，李遂設(shè)計(jì)逼使倭寇由富安沿海竄至廟灣，使之陷于絕地而殲之。于是，命副使劉景韶、游擊丘升扼守如阜，而親自馳兵泰州，當(dāng)其要沖。乘勢(shì)而來(lái)的倭寇見(jiàn)如阜有備，立即轉(zhuǎn)攻泰州。李遂急命劉景韶、丘升出擊，連戰(zhàn)丁堰、海安、通州皆捷。
倭寇只得沿海北上，李遂喜曰：“賊無(wú)能為矣！”遂令劉景韶、丘升尾追倭寇，將其驅(qū)趕至廟灣。李遂又慮倭寇竄入淮安，星夜馳入淮安城。不久，倭寇果至，李遂督參將曹克新御之于姚家蕩。此時(shí)，右通政唐順之聞倭寇犯江北，急令總兵官盧鏜拒敵于崇明，自率副總兵劉顯馳援李遂，與李遂一同大敗倭寇于姚家蕩，倭寇退至廟灣立寨固守。與此同時(shí)，劉景韶亦大敗倭寇于印莊，追至新河口，焚斬甚眾。接著也會(huì)兵廟灣，廟灣之?dāng)池?fù)隅頑抗，李遂主張列圍而困之，唐順之以為非計(jì)，率兵逼近敵寨以火攻之，不能克。
此時(shí)，拒敵崇明的盧鏜連連告急，唐順之只得回援崇明，李遂圍困倭寇于廟灣一月有余，乃令劉景韶塞塹攻寨，火焚其舟。倭寇乘雨夜逃遁。李遂追敵至蟲(chóng)段子港，斬殺甚眾。唐順之回師崇明，督盧鏜、劉顯進(jìn)擊倭巢，一再失利。正值盛暑，唐順之居舟兩月，辛勞染疾，返回太倉(cāng)。崇明倭寇乘機(jī)流竄江北，欲犯揚(yáng)州。劉景韶連戰(zhàn)連勝，圍之于劉莊，會(huì)劉顯來(lái)援，李遂傳命諸軍盡歸劉顯指揮，攻破其巢，追至白駒場(chǎng)，全殲倭寇。于是江北倭患悉平。
不久，在江東代替張?chǎng)巳紊袝?shū)。江北池河營(yíng)的士兵因?yàn)榍?hù)吳欽革除他們的幫丁，就毆打吳欽并將他縛在竿子上。幫丁是操練防守士兵的每人給一丁兵餉，以資往來(lái)費(fèi)用。李遂已被召封為兵部左侍郎，因言官推薦而提升為南京參贊尚書(shū)，由他來(lái)鎮(zhèn)壓安撫。營(yíng)卒被妖僧繡頭所惑，又散布流言。李遂將繡頭捕住殺掉，再三向隊(duì)伍申嚴(yán)紀(jì)律，書(shū)寫(xiě)軍士的姓名籍貫，年齡相貌，系牌腰間，軍士才止息。因多次督兵抗倭，屢立戰(zhàn)功，遷南京兵部右侍郎，未幾，進(jìn)南京兵部尚書(shū)。
衢州父老感思德政，于城北李遂原講學(xué)處塑李遂銅像，重約2000斤，并建李公遺愛(ài)祠，祠及碑均列入省二級(jí)文物保護(hù)單位。
李遂，博學(xué)多智，長(zhǎng)于用兵，但也善于逢迎，皇帝準(zhǔn)備重新建造三殿，李遂奏說(shuō)五河縣泗水中涌現(xiàn)大杉一棵，這是川澤效靈，為助圣主鼎新革故，皇帝大喜。李遂又進(jìn)獻(xiàn)白兔，皇帝為此派遣官員告于宗廟，從此皇帝更加寵愛(ài)李遂。以老致仕，辭官歸隱，卒年六十三，贈(zèng)太子太保，謚號(hào)襄敏，著作有《督撫經(jīng)略疏》等。