原本曆史中的楊阜就以德才兼備、剛正不阿著稱，曹操時代擔任邊疆大吏，自曹丕繼位後，楊阜進入朝中為官，曆經曹丕、曹叡兩朝。
曹操時代，當時漢陽本地官吏深受涼州刺史韋康厚恩，韋康為了保護全城百姓，出城投降馬超，反被馬超所害。
楊阜與薑敘等人帶領自己的宗族起兵反抗馬超，楊阜宗族七位兄弟在與馬超的交戰中，皆戰死。
楊阜身上受到五處創傷，僥幸活了下來。
擊敗馬超，隴右平定後，曹操封賞討伐馬超的功臣。
封侯者多達十一人，楊阜也因功被封為關內侯。
楊阜立刻推辭道：“我作為涼州下屬的官員，沒能保護好刺史大人的性命。他們死後，還未來得及儘節報孝。
在道義上，我應該被免官罷黜；在國家的律法上，我應當被處死。
如今既沒能殺死馬超，為涼州刺史韋康報仇雪恨，朝廷卻要封賞於我，下官實在沒有臉麵接受這樣的封賞啊！”
曹操被楊阜忠貞正直的節操所感動，深情的說道：“沒想到在涼州，還有義山楊阜）這樣的名士，真是讓孤肅然起敬啊！
諸君反對馬超的暴政，逐馬超於隴右，不但為國家守護住了西北大地，亦保護了本地的黎民百姓。
即使到了今日，涼州百姓仍然將你們的大功掛在嘴邊，作為生活之中的美談。
如此大功，為什麼不值得封賞呢？
當初子貢辭讓封賞，孔子認為不妥，現在義山辭讓封賞，我與孔子的想法相同。
你們儘心報國忠勇可嘉，連薑敘年老的母親，同樣知道為國效力，勸其子早日起兵，對抗馬超，亦是大功一件。
朝廷有良史記錄忠義，永遠不會忘記為國付出之人的功勞啊！”
曹操出征漢中時，因為楊阜熟悉地形，辟為隨軍參軍。
張飛、馬超等從沮道逼近下辯縣，氐帥雷定率七個部落響應馬超，共同進攻曹操的軍隊。
曹操派曹洪督自家的二代將領曹休、曹真等於下辯縣，狙擊對方。
曹休、曹真率領的乃是曹操麾下最精銳的虎豹騎，張飛、馬超雖然勇猛，卻仍然不敵曹休、曹真。
曹洪得知自己的兩個子侄輩立下如此大功，非常欣慰，大擺酒宴，讓歌女穿著很薄的衣衫跳舞，以助雅興。
在場的人皆大笑不已，隻有隨軍參軍楊阜厲聲嗬斥道：“將軍為國家討伐賊寇，即使立下大功，也不應該用如此慶祝方式。
須知男女有彆，這是國家的大節，怎麼能讓舞女們在大庭廣眾之下，赤身裸體的跳舞！即使夏桀、商紂如此荒唐，他們也不會做這樣的事情啊！”
楊阜說完之後，憤然的拂袖離去。
曹洪幡然醒悟，馬上下令舞女們停止表演，並讓她們下去休息，自己親自前往楊阜的居所道歉賠禮，又請楊阜還座，這才罷休。
要知道曹洪一直以來都是曹操最為親近的人之一，楊阜敢於在眾人麵前訓斥對方的過錯，令在場之人無不對楊阜肅然起敬。
劉備攻取漢中，逼近武都郡時，曹操立刻安排人員遷走大部分的武都郡百姓，他想把百姓遷至內地，又害怕距離太遠，百姓官吏眷戀故土。