这首诗用极其凝炼的诗笔，描画出一幅以旅客暮夜投宿、山家风雪人归为素材的寒山夜宿图。诗是按时间顺序写下来的。首句写旅客薄暮在山路上行进时所感，次句写到达投宿人家时所见，后两句写入夜后在投宿人家所闻。每句诗都构成一个独立的画面，而又彼此连属。诗中有画，画外见情。
诗的开端，以“日暮苍山远”五个字勾画出一个暮色苍茫、山路漫长的画面。诗句中并没有明写人物，直抒情思，但其人呼之欲出，其情浮现纸上。这里，点活画面、托出诗境的是一个“远”字，从这一个字可以推知有行人在暮色来临的山路上行进时的孤寂劳顿的旅况和急于投宿的心情。接下来，诗的次句使读者的视线跟随这位行人，沿着这条山路投向借宿人家。“天寒白屋贫”是对这户人家的写照；而一个“贫”字，应当是从遥遥望见茅屋到叩门入室后形成的印象。上句在“苍山远”前先写“日暮”，这句则在“白屋贫”前先写“天寒”，都是增多诗句层次、加重诗句分量的写法。漫长的山路，本来已经使人感到行程遥远，又眼看日暮，就更觉得遥远；简陋的茅屋，本来已经使人感到境况贫穷，再时逢寒冬，就更显出贫穷。而联系上下句看，这一句里的“天寒”两字，还有其承上启下作用。承上，是进一步渲染日暮路遥的行色；启下，是作为夜来风雪的伏笔。
这前两句诗，合起来只用了十个字，已经把山行和投宿的情景写得神完气足了。后两句诗“柴门闻犬吠，风雪夜归人”，写的是借宿山家以后的事。在用字上，“柴门”上承“白屋”，“风雪”遥承“天寒”，而“夜”则与“日暮”衔接。这样，从整首诗来说，虽然下半首另外开辟了一个诗境，却又与上半首紧紧相扣。但这里，在承接中又有跳越。看来，“闻犬吠”既在夜间，山行劳累的旅人多半已经就寝；而从暮色苍茫到黑夜来临，从寒气侵人到风雪交作，从进入茅屋到安顿就寝，中间有一段时间，也应当有一些可以描写的事物，可是诗笔跳过了这段时间，略去了一些情节，即使诗篇显得格外精炼，也使承接显得更加紧凑。诗人在取舍之间是费了一番斟酌的。如果不下这番剪裁的功夫，也许下半首诗应当进一步描写借宿人家境况的萧条，写山居的荒凉和环境的静寂，或写夜间风雪的来临，再不然，也可以写自己的孤寂旅况和投宿后静夜所思。但诗人撇开这些不去写，出人意外地展现了一个在万籁俱寂中忽见喧闹的犬吠人归的场面。这就在尺幅中显示变化，给人以平地上突现奇峰之感。
就写作角度而言，前半首诗是从所见之景着墨，后半首诗则是从所闻之声下笔的。因为，既然夜已来临，人已就寝，就不可能再写所见，只可能写所闻了。“柴门”句写的应是黑夜中、卧榻上听到的院内动静：“风雪”句应也不是眼见，而是耳闻，是因听到各种声音而知道风雪中有人归来。这里，只写“闻犬吠”，可能因为这是最先打破静夜之声，也是最先入耳之声，而实际听到的当然不只是犬吠声，应当还有风雪声、叩门声、柴门启闭声、家人回答声，等等。这些声音交织成一片，尽管借宿之人不在院内，未曾目睹，但从这一片嘈杂的声音足以构想出一幅风雪人归的画面。
全诗纯用白描手法，语言朴实无华，格调清雅淡静，却具有悠远的意境与无穷的韵味。