刘馥勤于民政的同时也没忘记加紧备战，毕竟这里不同内地而是“边防前线”。距此不远就是孙权的地盘，合肥随时都有可能成为千军万马交锋的战场。
为了战备，刘馥率领合肥百姓加高城墙，大量囤积木材、石块为守城之用，还编织了数万条草袋，以备万一城墙残破用以堵塞缺口。城防工事做好后，刘馥还不放心，又储存了几千斛鱼膏，如果城池被长期围困，缺粮，这些鱼膏也能充饥，虽说味道不敢保证，但至少能吃。
刘馥的这番苦功并没有白费，几年之后，就在赤壁大战这年，孙权率十万大军围攻合肥，全赖刘馥主持修造的城墙又高又厚，孙权攻了一百多天硬是没能啃下这座坚城。城没破但也险象环生，时值梅雨季节，连降大雨，大雨将城墙冲塌多处，那时城墙多是蒸土筑成，土怕水，两者结合产下的就是泥巴，而泥巴是立不住的，这时刘馥留下的草袋派上用场，守城士兵将草袋披在城墙上相当于给城墙穿上了一层雨披，穿上“雨衣”的合肥城挺住了暴风骤雨的侵袭。
到了晚上，为了防备孙权偷袭，刘馥留下的鱼膏被做成灯油火把，城头上到处燃着火把，合肥城被照得灯火通明，城外孙权军的一举一动，城上的人都看得真真切切一目了然。孙权在合肥城下围困数月，却毫无办法，只能望城兴叹，最后只能悻悻离去。