李應首次登場亮相是在該書的第二十五回。梁山攻克兗州後，李應奉命率領十位頭領駐守，兼管前沿重鎮飛虎寨。在李應的苦心經營下，兗州地區關門陡立、壁壘森嚴，烽火營汛無不完備，各路官軍不敢窺視。宋江自青雲山兵敗後，一路驚魂未定，直到撤至兗州城時，見金城湯池、守備完固，才安心定魂，放心大膽地駐紮在兗州城內，並對李應做出的成績讚不絕口。在李應的治理下，兗州各項事務井然有序。但是，自從他求賢取士之後，這一平靜的局面卻完全被打破。

當時，有一位博學多識、謀略超群的名士魏輔梁在兗州隱居。李應早在梁山時就曾聞其大名，得知他隱居在兗州的甄山後驚喜萬分，當即置辦重金厚禮，親赴寒廬，誠心相請，希望魏輔梁能助自己一臂之力，將兗州城防打造得永固無虞。不過，魏輔梁心高氣傲、重志守節，不願與梁山群盜為伍，以身體不適為由百般搪塞。但即便如此，李應仍舊以禮相待，一得空閒便親赴甄山登門拜訪，還時常派人送去補藥禮品。最終，魏輔梁答應出山協助，還帶來了一員猛將真大義。不過，令李應沒有想到的是，魏輔梁採用的卻是反間計，其真實目的並非輔佐自己，而是為梁山的死敵——猿臂寨做臥底，準備在關鍵時刻對梁山發動致命一擊。

自從魏、真二人入夥後，兗州地區頻生事端，屢遭猿臂寨算計，城中守軍損兵折將，遭遇重創。直到猿臂寨相繼攻克飛虎寨、賣李谷等多處關防重鎮、兵臨鎮陽關下時，李應才如夢初醒，終於明白自己中了對手的反間計，也知道了魏輔梁和真大義的真實目的。李應見大勢已去，只得帶著殘部殺出重圍，向梁山撤退。誰知，當他率部逃至兗州東北的狹道山時，又遭到猿臂寨的截擊。無奈之下，李應提槍躍馬與猿臂寨的陳麗卿、真祥麟、劉麒三位猛將大戰了四十幾個回合，最後僅剩單人獨騎逃回梁山。

兗州一戰，令梁山折損數萬精兵，病關索楊雄、拼命三郎石秀、兩頭蛇解珍、雙尾蠍解寶、病尉遲孫立、鐵叫子樂和、鬼臉兒杜興、出林龍鄒淵、獨角龍鄒潤、小尉遲孫新、母大蟲顧大嫂等十一位好漢遇害。李應懊悔不已，宋江聞訊後更是氣得舊傷復發、當場昏厥。從此之後，李應在梁山寡言少語、不議軍政，只在山寨中配合眾頭領守備防禦。在導龍岡之戰中，顏樹德離間霹靂火秦明，盧俊義召集眾人商議對策。當問及李應時，他說道：“小弟乃是敗軍之將，自從受到魏、真二人的欺瞞後，實不敢妄議寨中之事。”後來，徐槐率部攻克梁山頭關，李應奉命率部搶關，與官軍猛將韋揚隱展開了一番較量。在此戰中，李應揮動點鋼槍奮呼喊殺，韋揚隱舞動龍舌槍捨命惡鬥，二人雙槍並舉、互不相讓，搏殺良久，未分高下。

此後，官軍總攻梁山，李應奉命駐守後關，並督領水軍備禦後泊。他到任後，命張黿、王鼉等四員水軍頭目分別駐守採荷灣、新開港等後泊要隘。不料，官軍主帥雲天彪親率水陸兩萬大軍強攻後泊，各要隘急報如雪片飛入後關。李應聞訊後大驚，暗想：“前年盧兄長防守頭關時，就是因為水泊失陷喪失先機，我絕不可再步後塵。”拿定主意後，他命通臂猿侯健把守後關，自己率領一萬大軍殺入後泊增援。