此曲是张养浩晚年的代表作，也是元散曲中思想性、艺术性完美结合的名作。在他的散曲集《云庄乐府》中，以「山坡羊」曲牌写下的怀古之作有七题九首，其中尤以《潼关怀古》韵味最为沉郁，色彩最为浓重。
全曲分三层：第一层（头三句），写潼关雄伟险要的形势。张养浩途经潼关，看到的是「峰峦如聚，波涛如怒」的景象。这层描写潼关壮景，生动形象。第一句写重重叠叠的峰峦，潼关在重重山峦包围之中，一「聚」字让读者眼前呈现出华山飞奔而来之势、群山攒立之状；因地势险要，为古来兵家必争之地。山本是静止的，「如聚」化静为动，一个「聚」字表现了峰峦的众多和动感。第二句写怒涛汹涌的黄河，潼关外黄河之水奔腾澎湃，一「怒」字让读者耳边回响千古不绝的滔滔水声。黄河水是无生命的，而「如怒」则赋予河水以人的情感和意志，一个「怒」字，写出了波涛的汹涌澎湃。「怒」字还把河水人格化，「怒」字注入了诗人吊古伤今而产生的满腔悲愤之情。为此景所动，第三句写渲关位于群山重重包围、黄河寒流其间那除隘之处。「山河表里潼关路」之感便油然而生，至此潼关之气势雄伟窥见一斑，如此险要之地，暗示潼关的险峻，乃为历代兵家必争之地，也由此引发了下文的感慨。
第二层（四一七句），写作者途径潼关时的所见之感，主要写从关中长安万间宫阙化为废墟而产生的深沉的感慨。第四、五句点出作者遥望古都长安，凭吊古迹，思绪万千，激愤难平。「望西都，意踌躇」，写作者驻马远望、感慨横生的样子。作家身处潼关，西望旧朝故都长安，西都」即长安，长安不仅是秦汉都城，魏、晋、隋、唐都建都长安。作为六朝古都，当年是何等的繁华、昌盛。昔日的奢华早已灰飞烟灭不复存，只剩下一片残垣断壁的衰败景象，不禁令诗人踌蹰伤心。曾经是好几个朝代的都城，它的繁荣昌盛的景象在古籍中也曾有过记载，可如今眼前只剩下一片荒凉，万千滋味涌上心头，遥想当年，秦之阿房，汉之未央，规模宏大，弥山纵谷，可如今崇丽之宫阙，寸瓦尺专皆荡然无存，想到今番前去的任务，他不禁感慨万千。第六、七句「伤心秦汉经行处，宫阙万间都做了土」点出无限伤感的原因。「宫阙万间都作了土」，便是这由盛到衰的过程的真实写照，是令人「伤心」的。这一层看起来只是回顾历史，而没有直接提到战争，然而历代改朝换代的战争的惨烈图景触目惊心。在这里概括了历代帝业盛衰兴亡的沧桑变化。这里作者面对繁华过后的废墟所发出的「伤心」实乃悲凉。为秦汉旧朝统治者悲凉，恐怕「宫阙万间都做了土」（《三辅黄图》：「阿房宫，亦曰阿城。惠文王造宫未成而亡，始皇广其宫，规恢三百余里。离宫别馆，弥山跨谷，辇道相属，阁道通骊山八百余里。」后来项羽引兵西屠咸阳，「烧秦宫室，火三月不灭」。见《史记·项羽本纪》。故曰：「阿房一炬」。）这种局面是他们不曾想到的吧！同时亦为百姓悲凉，秦汉的一宫一阙都凝聚了天下无数百姓的血和汗，像秦汉王朝为彰显一个时代的辉煌，集国之全力塑起阿房、未央之建筑，但它却随着秦汉王朝的灭亡而化为焦土。辉煌过去，随即而来是朝代的变换，百姓在战争中苦不堪言。此情此景，让作家沉重地说出第三层「兴，百姓苦；亡，百姓苦」这句千古流传的语句。
第三层（末四句），总写作者沉痛的感慨：历史上无论哪一个朝代，它们兴盛也罢，败亡也罢，老百姓总是遭殃受苦。一个朝代兴起了，必定大兴土木，修建奢华的宫殿，从而给人民带来巨大的灾难；一个朝代灭亡了，在战争中遭殃的也是人民。他指出历代王朝的或兴或亡，带给百姓的都是灾祸和苦难。这是作者从历代帝王的兴亡史中概括出来的一个结论。三层意思环环相扣，层层深入，思想越来越显豁，感情越来越强烈，浑然形成一体。全曲景中藏情情中有景，情景交融。
兴，百姓苦；亡，百姓苦。」是全曲之眼，是全曲主题的开拓和深化。如果这首曲子的曲意仅仅停留在「宫阙万间都做了土」上，那么它仅仅宣扬了佛家「一切皆空的思想」，它与其它怀古诗（与《洛阳怀古》「功，也不久长！名，也不久长！」陈草庵《山坡羊叹世》「兴，也任他；亡，也任他。」《骊山怀古》「赢，都变做了土；输，都变做了土。」赵庆善《长安怀古》「山，空自愁；河，空自流。」杨慎《临江仙》「是非成败转头空」）的主题并无多大区别。在否定历史的同时，也否定了积极有为的人生态度。正因为最后两句就使得这首曲的境界大大高出同题材的其它作品。这首曲可贵之处在于它有深切的人文关怀，有对老百姓疾苦深切同情与关怀。
「亡，百姓苦」好理解。王朝灭亡之际战乱频仍，民不聊生。「兴，百姓苦」的原因则是：王朝之「兴」必大兴土木，搜刮民脂民膏，百姓不堪其苦。像秦王朝兴起时，筑长城，开驰道，造官室，劳役繁重，百姓受尽了苦。「兴，百姓苦」一句，发人所未发，深刻而警策。兴则大兴土木，亡则兵祸连结，不论「兴」、「亡」受苦的都是百姓。归纳总结：这首小令语言精练，形象鲜明且富有人民性，是整个元散曲中的优秀作品。
《潼关怀古》中对历史的概括，显指元代现实生活：怀古实乃伤今，沉重实乃责任。这种复杂的感情要结合作家的生平经历才能理解。张养浩特殊的仕途经历，决定了他的怀古散曲中有一种参破功名富贵的思想，《骊山怀古》中写到「赢，都做了土；输，都做了土。」《洛阳怀古》中写到「功，也不长；名，也不
长。」《北邙山怀古》中写到「便是君，也唤不应；便是臣，也唤不应。」这些曲中张养浩把胜负之数、功名之分、生死之际，看成了毫无差别的，只是借古人古事述说富贵无常、人生如梦。只有《潼关怀古》以难得的沉重，以深邃的目光，揭示了封建社会里一条颠扑不破的真理「兴，百姓苦；亡，百姓苦。」
在写法上，作者采用的是层层深入的方式，由写景而怀古，再引发议论，将苍茫的景色、深沉的情感和精辞的议论三者完美结合，让这首小令有了强烈的感染力。字里行间中充满着历史的沧桑感和时代感，既有怀古诗的特色，又有与众不同的沉郁风格。
从作品内容、作家其他怀古作品、同时期其他作家怀古作品三个层面上看，《山坡羊·潼关怀古》都表现为一份难得的沉重。