韓遜,本靈州之列校也。會唐季之亂,因據有其地,唐乃授以節鉞。梁初,累加檢校太尉、同平章事。開平中,梁將劉知俊自同州叛歸鳳翔,李茂貞以地褊不能容,乃借兵以窺靈武,且圖牧圉之地。知俊乃帥邠、岐、秦、涇之師數萬攻遜於靈州,遜極力以拒之,久之,知俊遁去。梁祖嘉之,自是累加官至中書令,封潁川郡王。
遜亦善於為理,部民請立生祠於其地,梁祖許之,仍詔禮部侍郎薛廷珪撰文以賜之。貞明初,遜卒於鎮,軍中立其子洙為留後。