很久以前，山陽城一帶戰亂不斷，老百姓們命遭涂炭，當時有一位清官決定撥款并發動當地老百姓們筑造城墻。可是城墻沒壘多高就塌了，人們為此犯了大愁。

    這時，村（今墻南村）里有倆結義兄弟，二人對經商很有一套。一天，老大提出一個問題：“咱二人確實是賺了不少錢，可這不都是賺大家的血汗錢嗎！我們是不是……”老二聽后頓悟：“太好了!咱倆做一樁賠本買賣，中不中？”老大點了點頭，隨即又說：“那做啥買賣最賠本呢？”聽說咱老家修城墻，可壘得一高就塌了。不如咱去山西買點好土運回。這么遠的路程運回來肯定能賠錢，你說中不中?”老二聽后大喜，二人立刻帶上積蓄便上路了。

    到了山西，二人向一個大商人問道：“老哥，你們這里的土賣不賣？”商人看了他倆半天，罵道：“神經病！”二人聽后也不生氣，轉身又見一羊倌在放羊，便問：“老弟，你這里的土賣不賣？我們想買些土回去修城墻。”羊倌看這二人說話和氣，不像是開玩笑，就問：“你給幾錢一擔？”老大說：“三文一擔中不中？”羊倌高興的說：“你要多少擔？”老二說：“你再去賣些羊，每只羊再給你三兩銀子，每只羊身上馱兩筐土，有多少算多少，中不中?”羊倌一聽更是高興。就這樣，二人趕著一大群馱土的羊返回故里。

    誰知這時，家鄉的官民們正請了個算卦先生卜卦。算卦先生瞇著眼兒掐指一算：“金木水火土，陰陽八卦推。此地為陽，必須有山西那方的陰土相摻和才能壘成。否則，這墻壘多少塌多少！我斷定三日之內定有人送陰土過來，無論如何你們一定要買下！”縣令修城心切，特批二百兩銀子用來買好土。這時正遇兄弟二人趕著羊群過來，人們看著羊身上馱著裝滿好土的柳筐，就上前詢問：“此土為何方之土？賣不賣？”二人答：“山西土，不賣。”縣令和眾人一聽急了，說：“我們真心想買，不管多少錢都行。”二兄弟堅持不賣，要無償捐獻修城墻，大家聽后萬分高興。縣令怕不給錢白要這土不靈，末了還是決定用二百兩銀子買下。雙方互相推讓不下，最后縣令和百姓們才把卜卦的事對他倆又細說了一遍，兄弟二人聽罷理由，突然哈哈大笑起來：“天意！天意！這輩子賠本的買賣我們是做不成了。”笑完后二人突然猝死。

    后來，他們的家人發現二人口袋中的遺書上均寫明：“將這土和群羊無償捐獻修筑城墻，不要縣衙一兩銀子。”官民們為這二人的慷慨之舉深深感動，眾志成城，不久就修筑好了城墻。為紀念二人從山西趕著山羊馱運陰土的功勞，人們就把這座城叫做“山羊城”。東漢末年，漢獻帝被貶到此，看到太行山北為陰，南為陽，就把“山羊城”寫成了“山陽城”，“山陽城”的名字便從此沿用了下來。