全诗可分为三个层次。第一层写他出任永嘉大守的矛盾心情，懊悔自己既不能像潜藏的虬那样安然退隐，又不可能像髙飞的鸿那样声震四方，建功立业。第二层写他在病中临窗远眺。第三层写他的思归之情。
前八句为第一层，主要写官场失意后的不满与当时矛盾的处境。魏晋南朝时代权力斗争激烈，仕途风波险恶，因此士族文人既有进取之志，又有企羡隐逸之心，而诗人所面临的，却是两者俱无所得的困境。诗一开头即由此下笔：「潜虬」一句喻深藏不露、孤髙自赏的生活，「飞鸿」一句喻奋进髙飞、声名动世的境界；下面两句说无论前者还是后者，自己都不能做到，深感惭傀。四句中，第三句紧接第二句，第四句远承第一句，诗意连贯而有变化。以上四句用形象的比喻写出自己的困境，但为何会这样，并未交代清楚，所以又有后四句把前四句加以落实。「进德」谓进取功业，施恩德于世人，与「飞鸿」一句相应。——但虽有此志，却是才智不及。这句实际的意思，是说自己耿直守正，乃至受人陷害。「退耕」谓退隐田园，以耕作自资，与「潜虬」一句相应。——但徒怀此愿，却是力所未能。以谢氏的富有，当然谈不上「退耕力不任」的问题。这句实际的意思，是说自己颇有退隐之心，只是为形势所格，无法实现。因为当时谢康乐如果拒绝赴任，就是公开表示与当权者对抗，极可能招致更大麻烦。下面进一步写自己于无奈中来到这偏僻的海隅，入冬后久卧病床，所对唯有萧索枯瑟之空林。全诗由虚入实，由远及近，气氛渐渐降到最低点。
自「衾枕」以下八句为第二层，写登楼所见满目春色。「衾枕昧节候」紧承前一句」卧疴对空林」而来，写卧病中不知不觉，已是冬去春来，同时自然而然引出下旬「褰开暂登临」。「暂」谓短时间，有抱病强起之意。「倾耳」、「举目」两句，写出诗人对自然风光的极度喜爱。池塘水波轻拍，在倾耳细听之际，令人虑澄意解；远山参差耸立，于放眼遥望之中，使人心旷神怡。眼前是一派景色：「初景」即新春的阳光，正在革除「绪风」即残冬的余风，「新阳」即春代替了「故阴」即冬的统治。「初景」、「新阳」写出总体的感受，是虚笔，下面「池塘」、「园柳」两句，转为近景的具体描绘。「池塘生春草，园柳变鸣禽」，是谢诗中最著名的诗句之一，曾引起很多人的赞赏，甚至引出一些带有神秘性的传说。但也有人提出：这二句实在很平常，没有什么可夸耀的。究竟应如何看待，颇可稍加分析。
看起来，这一联诗（特别是前一句）确实很平常，毫无锤炼之功，所写景色亦并无特别之处．但应该注意到，它很好地表现了初春之特徵及诗人当时的心情。池塘周围（尤其是向阳处）的草，因为得池水滋润，又有坡地挡住寒风，故复苏得早，生长得快，其青青之色也特别的鲜嫩，有欣欣向荣的生气。但它委实太平常，一般人都注意不到。谢康乐久病初起，这平时不太引人注意的景色突然触动了他，使之感受到春天万物勃发的生机，于是很自然地得到这一清新之句。「园柳变鸣禽」，写柳枝上已有刚刚迁徙来的鸟儿在鸣叫，这同样是细微而不易察觉的变化。两句诗表现了诗人敏锐的感觉，以及忧郁的心情在春的节律中发生的振荡。再有，宋初诗坛，以谢康乐其人为代表，有一种追求佳句的风气，而通常的佳句，都以反复雕琢、精于刻画取胜。在这样的风气中，此种自然生动而富有韵味的诗句，更显得特出。总之，放在特定的文学环境和具体的诗篇之中来看，「池塘生春草，园柳变鸣禽」的确不失为佳句，单独抽出来加以评论，就没有多少意义了。从全诗来看，写到这里，情绪渐渐转向开朗欣喜的暖色调。
第二层是全诗最精彩的部份。诗人在病榻上度过了一个冬天，现已是初春时节了。他凭窗而坐，倾耳细听远处波涛拍岸之声；举目远望群山起伏之影。而近处所见的景致则是：「池塘生春草，园柳变鸣禽。」诗人从冬去春回的众多景象中选择了一个细小而典型的镜头：不知不觉间楼外枯草瑟瑟的池塘里竟然春草繁生了；小园垂柳丛中禽鸟鸣声也已变换。正是从池塘小园的变化中，久病的诗人突然意识到，外面已是一派浓郁的春意。这里写景，有声有色，远近交错，充满了蓬勃生气。「池塘」二句为历来诗论家交口赞赏。它的妙处就在于自然清新，不假绳削。
最后六句为第三层。开头两句由登楼观春联想到古代描写春景的诗，借用典故表示自己的感慨，情绪又转向感伤。「祁祁伤豳歌」的「豳歌」，指《诗经·豳风·七月》一篇，诗中有「采蘩祁祁」等描写春景之句。「伤豳歌」，按照《毛诗序》《诗谱》等传统的解释，《七月》是周公在遭受流言、出居东都以避谗害时作的，谢康乐用此典故，带有暗喻的意思。「萋萋感楚吟」的「楚吟」，指《楚辞·招隐士》一篇，其中有「春草生兮萋萋」之句。所谓「感楚吟」，是说有感于隐士的生活。这两句回复到第一层的内容，但并非单纯的重复，而是表示要从困窘的处境中摆脱出来，决心走隐居的道路。接着「索居」「离群」两句，写隐居生活令人难以接受的一面，意思是：离群索居的生活，使人容易感到岁月漫长，枯索无味，难以安心。这两句从诗意上说，是指一般人的想法，并非说自己。但在潜在心理上，这种被否定的想法，也隐约透露了他自己的某种疑虑。谢康乐出身华胄，为世人所重，且骄纵自负，与世隔绝的隐居生活对于他确非易事。但不管怎祥，他归隐的决心已下。全诗结束两句说：「持操岂独古，无闷徵在今！」「无闷」语出《周易·乾卦》，意谓大德之人，避世而无所烦忧。这两句意思是：坚持节操岂止古人能够做到，《周易》所谓「遁世无闷」在今人身上同样可以得到徵验！这样，诗的情绪便从进退维谷的困境中解脱出来，以髙亢的声调收结全篇。也就在这大约半年之后，谢康乐终于称疾辞职，归隐到始宁的祖居。
在这首诗中，诗人用各种方式来表达自己内心的郁闷，或是比兴，用虬和鸿的进退得所来说明自己进退失据；或是直抒胸臆，诉说独居异乡的孤苦；或是以景写情，用生趣盎然的江南春景，来衬托诗人内心的抑郁。
此诗以登池上楼为中心，抒发了种种复杂的情绪。这里有孤芳自赏的情调，政治失意的牢骚，进退不得的苦闷，对政敌含而不露的怨愤，归隐的志趣等等，虽然语言颇觉隐晦，却是真实地表现了内心活动的过程。诗中写景部分与抒情结合得相当密切，并且成为诗中情绪变化的枢纽。对景物的描绘，也体现出诗人对自然的喜爱和敏感，而这正是他能够开创山水诗一派的条件。只是，语言过于深奥、句式缺少变化，因求对仗而造成某些重复，也是显著的弱点。这些都有待于诗歌的发展来纠正。