在攻打长安的途中,经过弘农(今河南省灵宝),弘农太守杨智积为了拖住杨玄感,不让他去攻打长安,便在城楼大骂杨玄感。杨玄感果然中计,下令攻打弘农。李密看出杨智积用的是缓兵之计,便劝杨玄感不要理他,迅速攻占长安,否则不能占领潼关,追兵来到,便无处可守。杨玄感哪里肯听,非要以10 万大军踏平弘农,再打长安。
但是弘农城非常坚固,并不是说攻就能攻下来的,还没等杨玄感攻下弘农,铺天盖地的隋军已从身后杀过来。杨玄感的军队毕竟没有经过多少正规训练,人数又比隋军少,被隋军分割成小块,各个歼灭。杨玄感和他的弟弟见大势已去,拨马落荒而逃,跑了不知有多久,来到一个叫葭芦戍的地方。杨玄感回头一看,只有弟弟杨积善一人跟在自己身后。想到自己轰轰烈烈的起义就这样失败了,他不禁长叹一声:“唉,悔不该不听李密之言。”又转身对弟弟说:“我不能死在隋军手中,你杀了我吧!”
杨积善怎忍心对自己的亲哥哥下手,杨玄感见状大怒,痛斥他。杨积善无奈,上前一剑将哥哥刺死,自己正欲横剑自刎,追兵赶来,将其擒获。