这篇文章一共可以分为三段。第一段引述白居易文章中的相关语句，表明自己的心态。第二段以江州山水之美与邢州环境作比较，体现了自己的感情波澜起伏。第三段具体写自己住处的恶劣环境和以书史自娱的心境。全文合理运用对比的方式，摹仿白居易的笔触，通过将自己与白居易作对比来表达了自己内心压抑的情感以及不满的情绪。
第一段的开头有如神来之笔，引出唐代曾被贬为江州司马的白居易，作者正是读了他的《江州司马厅记》。这一段的文字是不动感情的，但“同是天涯沦落人”的潜在意思已经不言而喻了。第一段引述白居易文章中的相关语句，说明自己主管的马政是无所事事、独奉文移的闲职。并用“司马之职尽去”之语，点明了自己的处境与千年前的江州司马何其相似。
第二段是以江州山水之美与邢州环境作比较，说明自己所处的自然环境“犹有赵之风”，不类江州之佳山水，所以也不能和江州司马那样“养志忘名”，只能心仪其“襟怀夷旷，能自适”。第二段感情波澜起伏。白居易谪居江州，犹有匡庐江湖之佳境可供养志忘名，可自己却是什么也没有，与之相比处境更差。但是，白居易虽然是个迁谪者却没有无聊不平之意，胸怀夷旷，能怡然自得，是归有光所赞同的。因此，“虽微江州，其有不自得哉”一语，既是说自居易，也是在说作者自己。
第三段具体写自己住处的恶劣环境和以书史自娱的心境，实是以干载之下江州司马白居易的同志自居而自表心迹而已。结尾处点睛之笔说得很明白：儒家的“乐天知命”的思想，是白居易和归有光所共有的。
首句“聊”字表明其并非因怀归而登楼，而后由登楼见闻引发怀归之情，进而进入沉思遐想，末句一“惊”字，生动地揭示了诗人由遐思默想到突然惊觉的心理变化过程，蕴含着游子对故乡的依恋之情。
“高楼聊引望，杳杳一川平。”作者就说自己登上高楼，伸长了脖子，向远处眺望，只见到无尽的春水，涨满了河中。这一联气势很宏大，给下文发挥情感留下了充分的余地。古人论诗强调起句要拉得开，压得住，这首诗正做到了这一点。
“远水无人渡，孤舟尽日横。”俯察。诗人从平野尽头收回视线，开始细细察着楼前底下有无别致的景色。原来在这片广野中，竟横卧着一条河流，水上还有一条渡船。不过，四野空旷无人，既不见渡者，连那船家也不知到哪去了。诗人不由好奇，便将目光久久地停留在那。但是看了好半天，也不见有个入来，只有那条孤零零的渡船横转在水里飘啊悠的，诗人心里琢磨着：看来这条渡船自清晨渡入后，就一整夭地被船家撂在这儿了。
这一联纯粹的写景句，宋人葛立方竟认为：“寇忠愍少知巴东县，有‘野水无人渡，孤舟尽日横’之句，固以公辅自期矣，奈何时未有知者。”（《韵语阳秋》卷十八）这是从何说起，因此遭到清人何文焕的诘难：此联“乃袭‘野度无人舟自横’句，葛公谓其‘以公辅自期’，强作解矣。”（《历代诗话考索》）何氏的意见是正确的。寇准因为“平昔酷爱王右丞、韦苏州诗”（范雍诗序语），所以此地看见相仿景色时，很自然地受到韦应物《滁州西涧》诗的触发，便随手点化了韦句，而意境比韦来得丰厚，如斯而已，何来“公辅自期”之思。葛立方之说显然是穿凿附会。
“荒村生断霭，深树语流莺。”写抬眼见闻。诗人伫望楼头已久，因此当他目光移开渡船，抬眼向荒村望去时，已近黄昏，村里入家大约已在点火做饭了，所以冒出了缕缕轻烟。高楼不远处还有一座古寺，听得出有几只黄莺在那儿啼嗽着。
也许是流水、渡船、炊烟勾起了诗人对故乡类似景色的回忆，抑或是无所栖托的流莺的啼声唤出了诗人心中对故居的思念，总之，登楼见闻领出了尾联的怀归之情。此时，诗人不可遏止地怀念起故乡来：在那遥远的地方，那清清的渭水流经的下邽，就是自己的故里，在那里，有自己的田园家业，有自已的亲人······迷离恍惚之中，诗人仿佛已置身故园，看到了家乡的流水，家乡的渡船，家乡的村庄。他完全浸入了沉思之中。蓦地一阵心惊，他回过神来：“此身还在异乡巴东呢！”这时，他的心头该有何感想，然而他不说了，就在“惊”字上收住了笔。
由于写景是全诗的重心，对仗工稳、生活气息浓郁的中间二联景句就成了诗的中心。尤其“野水”一联，妙手偶得，浑然天成，更博得了赞赏。宋僧文莹《湘山野录》以为它“深入唐人风格”。王渔洋把它转引入《带经堂诗话》的“佳句类”内，连北宋翰林图画院也将此联作为考题来品评考生高低，这都说明这首诗以写景驰名，以致本来写得并不差的抒情句却为它所掩了。
这是一首咏物诗，咏物中尤多寄托，具有浓郁的象征性。句句写的是蝉的形体、习性和声音，而句句又暗示着诗人高洁清远的品行志趣，物我互释，咏物的深层意义是咏人。诗的关键是把握住了蝉的某些别有意味的具体特征，从中找到了艺术上的契合点。
首句“垂緌饮清露”，“緌”是古人结在颔下的帽带下垂部分，蝉的头部有伸出的触须，形状好像下垂的冠缨，故说“垂緌”。古人认为蝉生性高洁，栖高饮露，故说“饮清露”。这一句表面上是写蝉的形状与食性，实际上处处含比兴象征。“垂緌”暗示显宦身份（古代常以“冠缨”指代贵宦）。这显贵的身份地位在一般人心目中，是和“清”有矛盾甚至不相容的，但在作者笔下，却把它们统一在“垂緌饮清露”的形象中了。这“贵”与“清”的统一，正是为三四两句的“清”无须藉“贵”作反铺垫，笔意颇为巧妙。
次句“流响出疏桐”写蝉声之远传。梧桐是高树，着一“疏”字，更见其枝干的高挺清拔，且与末句“秋风”相应。“流响”状蝉声的长鸣不已，悦耳动听，着一“出”字，把蝉声传送的意态形象化了，仿佛使人感受到蝉声的响度与力度。这一句虽只写声，但读者从中却可想见人格化了的蝉那种清华隽朗的高标逸韵。有了这一句对蝉声远传的生动描写，三四两句的发挥才字字有根。
“居高声自远，非是藉秋风”，这是全篇比兴寄托的点睛之笔。它是在上两句的基础上引发出来的诗的议论。蝉声远传，一般人往往以为是藉助于秋风的传送，诗人却别有会心，强调这是由于“居高”而自能致远。这种独特的感受蕴含一个真理：立身品格高洁的人，并不需要某种外在的凭藉（例如权势地位、有力者的帮助），自能声名远播，正像曹丕在《典论·论文》中所说的那样，“不假良史之辞，不托飞驰之势，而声名自传于后。”这里所突出强调的是人格的美，人格的力量。两句中的“自”字、“非”字，一正一反，相互呼应，表达出对人的内在品格的热情赞美和高度自信，表现出一种雍容不迫的风度气韵。唐太宗曾经屡次称赏虞世南的“五绝”（德行、忠直、博学、文词、书翰），诗人笔下的人格化的“蝉”，可能带有自况的意味吧。沈德潜说：“咏蝉者每咏其声，此独尊其品格。”（《唐诗别裁》）这确是一语破的之论。
清施补华《岘佣说诗正像曹丕在》云：“三百篇比兴为多，唐人犹得此意。同一咏蝉，虞世南‘居高声自远，端不藉秋风’，是清华人语；骆宾王‘露重飞难进，风多响易沉’，是患难人语；李商隐‘本以高难饱，徒劳恨费声’，是牢骚人语。比兴不同如此。”这三首诗都是唐代托咏蝉以寄意的名作，由于作者地位、遭际、气质的不同，虽同样工于比兴寄托，却呈现出殊异的面貌，构成富有个性特征的艺术形象，本诗与骆宾王的《在狱咏蝉》，李商隐的《蝉》成为唐代文坛“咏蝉”诗的三绝。
实际上，咏蝉这首诗包含着诗人虞世南的夫子自道。他作为唐贞观年间画像悬挂在凌烟阁的二十四勋臣之一，名声在于博学多能，高洁耿介，与唐太宗谈论历代帝王为政得失，能够直言善谏，为贞观之治作出独特贡献。为此，唐太宗称他有“五绝”（德行、忠直、博学、文辞、书翰），并赞叹：“群臣皆如虞世南，天下何忧不理！”从他不是以鲲鹏鹰虎，而是以一只不甚起眼的蝉来自况，也可见其老成谨慎，以及有自知之明。
