上奏新造成两刃稍,长二丈四尺,围一尺三寸,高祖便赐给羊侃马,让他试刃稍。羊侃执捎上马,左右击刺,表演得非常绝妙,高祖称赞他。又撰制《武宴诗》三十韵让羊侃看,羊侃即席应诏作诗,高祖看后说:“我听说有仁德的人有胆量,现在亲见有胆量的人有仁德,可说是孔、孟遣风,英贤没有断绝。”六年,迁任司徒左长史。八年,迁任都官尚书。当时尚书令何敬容当权,同在尚书省,但羊侃未曾拜访他。有宦官张僧胤拜访羊侃,羊侃说:“我的床不是闯入所能坐的。”竟不前去接待,时论赞美他贞正。九年,出任使持节、壮武将军、衡州刺史。
太清元年,征入任侍中。这时朝廷举兵北伐,便任羊侃持节、冠军,监造韩山堰工事,衹用二十天堰就造成。羊侃劝元帅贞阳侯乘水攻彭城,不被采纳;不久束魏的援兵大举到来,羊侃多次劝贞阳侯乘束魏兵远来可进击,第二天早晨又劝他出战,都不听从,羊侃便率领自己的士兵顿守堰上。在众军战败后,羊侃的士兵排成阵势慢慢撤回。
二年,再任都官尚书。侯景反叛,攻陷历阳,高祖问羊侃讨伐侯景的计策。羊侃说:“侯量反叛的迹象早就显露出来,或许他会横冲直撞京师,应急速占据采石,令邵陵王袭取寿春。侯量进军不得向前,后退又失去大本营,乌合之众,自然瓦解。”议事的人说侯景未敢立即逼近京师,于是搁置他的策略,令羊侃率千余骑驻守望国门。±谴的军队到了塞眯,追回芏掘入城辅佐宣继王都督城内诸军事。当时尽量兵突至,百姓竞相入城,公私人员混乱,没有秩序。羊侃于是加以区分防备,皆任宗室的人监视。军人争相进入武库,自取兵器鉴甲,主管官员不能禁止,芏坦命令斩杀数人,才得禁止。及贼逼城,众人都恐惧震动,羊侃假称得到从城外射进的书信,说“邵陵王、西昌侯带的援兵已到附近”众人才稍安。贼进攻束掖门,纵火很旺盛,羊侃亲自指挥抵抗,用水浇火,火减,引弓射杀数人,贼才撤退。加任侍中、军师将军。有韶令赠送金五千两,银万两,绢万匹,犒赏战士,羊侃推辞不受。部曲千余人,都用私财奖赏。
贼制造尖顶木驴攻城,矢石不能制服它,羊侃就制作雉尾炬,安上铁箭头,用油浇灌它,扔在木驴上燃烧,不久木驴被烧尽。贼又在城东西两面堆起土山,站在土山上观望城裹,城中人震骇,羊侃又命令在土山下挖地道,暗中把土运走,土山不能堆立。贼又制作登城楼车,高有十余丈,想登城向内俯射,羊侃说:“车高而城下沟壕中的土虚,楼车来了一定会倾倒,可卧而观看,不用劳累设防。”当楼车一开动果然倒下,众人皆佩服他。贼既然频攻不能取胜,便修筑长围。硃异、张绾商议想出击贼,高祖征求羊侃的意见,羊侃说:“不行。贼多日攻城,既然不能攻下,所以修筑长围,想引出城中投降的人。今出击他,出的兵如果少,不能破贼,如果多出兵,则一旦失利,自己人相互腾践,城门窄桥小,必会导致大挫折,此便是向贼示弱,而不是施展王威。”高祖没有听从他的意见,便派千余人出战,还没有交锋,就望风退败,果然为争遇桥而掉入水中,死者有大半。