此诗开头四句可以说是对筑城的士兵和潼关关防的总写。漫漫潼关道上，无数的士卒在辛勤地修筑工事。“草草”，劳苦的样子。前面加一“何”字，更流露出诗人无限赞叹的心情。放眼四望，沿着起伏的山势而筑的大小城墙，既高峻又牢固，显示出一种威武的雄姿。这里大城小城应作互文来理解。一开篇杜甫就用简括的诗笔写出唐军加紧修筑潼关所给予他的总印象。
“借问潼关吏：‘修关还备胡？’”这两句引出了“潼关吏”。胡，即指安史叛军。“修关”何为，其实杜甫是不须问而自明的。这里故意发问。而且又有一个“还”字，暗暗带出了三年前潼关曾经失守一事，从而引起人们对这次潼关防卫效能的关心与悬念。这对于开拓下文，是带关键性的一笔。
接下来，应该是潼关吏的回答了。可是他似乎并不急于作答，却“要（邀）我下马行，为我指山隅”。从结构上看，这是在两段对话中插入一段叙述，笔姿无呆滞之感。然而，更主要的是这两句暗承了“修关还备胡”。杜甫忧心忡忡，而那位潼关吏看来对所筑工事充满了信心。他可能以为这个问题不必靠解释，口说不足为信，还是请下马来细细看一下吧。下面八句，都是潼关吏的话，他首先指看高耸的山峦说：“瞧，那层层战栅，高接云天，连鸟也难以飞越。敌兵来了，只要坚决自守，何须再担心长安的安危呢！”语调轻松而自豪，可以想象，关吏说话时因富有信心而表现出的神采。他又兴致勃勃地邀请杜甫察看最险要处：老丈，您看那山口要冲，狭窄得只能容单车通过。真是一夫当关，万夫莫开。这八句，“神情声口俱活”（浦起龙《读杜心解》），不只是关吏简单的介绍，更主要的是表现了一种“胡来但自守”的决心和“艰难奋长戟”的气概。而这虽然是通过官吏之口讲出来的，却反映了守关将士昂扬的斗志。
紧接关吏的话头，诗人却没有赞语，而是一番深深的感慨。因为诗人并没有忘记“前车之覆”。三年前，占据了洛阳的安禄山派兵攻打潼关，当时守将哥舒翰本拟坚守，但为杨国忠所疑忌。在杨国忠的怂恿下，唐玄宗派宦官至潼关督战。哥舒翰不得已领兵出战，结果全军覆没，许多将士被淹死在黄河里。睹今思昔，杜甫余哀未尽，深深觉得要特别注意吸取上次失败的教训，避免重蹈覆辙。“请嘱防关将，慎勿学哥舒。”“慎”字意味深长，它并非简单地指责哥舒翰的无能或失策，而是深刻地触及了多方面的历史教训，表现了诗人久久难以消磨的沉痛悲愤之感。
与“三别”通篇作人物独白不同，“三吏”是夹带问答的。而此篇的对话又具有自己的特点。首先是在对话的安排上，缓急有致，表现了不同人物的心理和神态。“修关还备胡”，是诗人的问话，然而关吏却不急答，这一“缓”，使人可以感觉到关吏胸有成竹。关吏的话一结束，诗人马上表示了心中的忧虑，这一“急”，更显示出对历史教训的痛心。其次，对话中神情毕现，形象鲜明。关吏的答话并无刻意造奇之感，而守关的唐军却给读者留下一种坚韧不拔、英勇沉着的印象。其中“艰难奋长戟，万古用一夫”两句又格外精警突出，塑造出犹如战神式的英雄形象，具有精神鼓舞的力量。