这是首典型的登临诗，与历来登临诗一样，分为二层，即登临所见、由登临而产生的感慨。诗无论是写景还是抒情，都波折多变，笔法灵活，用语清丽。同时，诗以五言写景，七言抒情，起首四句又杂以民歌体，活泼跳荡，用韵平仄交合，寓以变化。
开头四句，“起得峭拔”（纪昀语），直接点出登寺之所见，而省略了登寺的过程。更主要的，是暗示了并非登一次，所以才有“朝”“暮”之说。白天看吴山，但见蜿蜒起伏，所以说是“横”；晚上看吴山，只能在夜空中见出轮廓，所以说是“从”（纵）。这一表达方式，与著名的《题西林壁》中“横看成岭侧成峰，远近高低各不同”相似，可见作者观察的细致。如此写山，看似不具体，实则正如宋玉《登徒子好色赋》中对增之一分则太长，减之一分则太短，施朱则太红，傅粉则太白的“东家之子”的描写一样，可以充分调动读者的想象，表现出吴山之美。至此，写山题面已足，于是进而写阁。写阁不说其外部之壮丽和内部之清雅，而说“空洞无一物”，这就和题中的“寺”联系起来了。阁中当然不可能空无一物，但佛家宣称“四大皆空”，苏轼本人也曾在《送参寥师》中说过：“欲令诗语妙，无厌空且静。静故了群动，空故纳万境。”这实际上是对“幽人”即佛徒的赞美。
以下分别续足前面的意思，“春来”四句承接首四句，写由吴山之美惹动思归之心，因而觉得“秋悲春更悲”。“雕栏”四句承接次四句，写由朱阁之美联想雕栏易朽，致慨于光阴易逝，人生无常。这就由乐生悲，感情也显得低沉。但末二句又复振起，说人虽然与亭台池阁最终都将化为异物，但吴山长存，则诗人的精神亦长存，见出乐观和旷达，而这种乐观和旷达又暗与“幽人”数句相承，反映了佛家无生无灭的思想。这种思想可以和作者的《前赤壁赋》相对照。在那篇著名的赋里，作者借“客”之口写道：“方其（曹操）破荆州，下江陵，顺流而东也。舳舻千里，旌旗蔽空，酾酒临江，横槊赋诗，固一世之雄也，而今安在哉！”又由曹操写到普遍的人生：“哀吾生之须臾，羡长江之无穷，挟飞仙以遨游，抱明月而长终。知不可乎骤得，托遗响于悲风。”人们追求永恒不得，是一种永恒的、无法解脱的悲哀，对此，苏轼说：“逝者如斯，而未尝往也；盈虚者如彼，而卒莫消长也。盖将自其变者而观之，则天地曾不能以一瞬；自其不变者而观之，则物与我皆无尽也。”以不变的眼光看待物与我，就能超越具体的悲和喜，与大自然一样，达到永恒。《法惠寺横翠阁》的结尾所表达的，也就是这个意思。
词的上片，用“记神京”开篇，化实为虚，回忆当年故都“柳绿花红”的繁华景象和自己裘马清狂、“解衣沽酒”的浪漫生活。下片以“到如今”过渡，由虚入实，描绘汴京沦陷以后“满目飞蓬”的衰败现实和词人凄凉悲怆的心情。全词没有一句议论、抒情之语，但字里行间尽显忧伤之情，含蓄蕴藉，感慨深沉，读之令人黯然。
词的上片以“记”字领起，统领始终。“神京”二字点明感怀对象。繁华地，旧游踪“二句，前句概括性也介绍了京都，后句词人便把自己引入作品之中，表明了他与京都的密切关系。这三个短句构成上片的第一段落，为后面描绘和抒情准备好了铺垫。
“正御沟、春水溶溶”以下，作者紧扣“春”字进行描绘。摹写了自然景物。其中，“御沟”标志宫庭之所在，承接前面的“神京”而来。流淌在御词里明净的春水。由此可以想象那生机勃勃的草木，而这一切都引发了京师人士无限的游春意。
从“平康巷陌”到歇拍的“柳绿花红”，是上片的第三段落。“平康巷陌”，本指歌女聚居之地，这里还指秦楼楚馆、酒肆茶坊、勾栏瓦市等游乐场所。
“绣鞍金勒”句说的是那些“章台走马”的男子，“解衣沽酒”句概写他们的游乐。“柳绿花红”应当是指代城市中献伎的女子。她们穿红着绿，正是所谓“柳绿花红”。而“平康巷陌”则是以这些人为主体的。在宴饮场中，文娱之所，她们是免不了的。因此，此词在“醉弦管”之后，立即补上“柳绿花红”一句点明那些女子正在献艺。这一段落重在写京都市人游冶及宴钦等方面的情景，通过这寥寥数笔，读者便可以想见当时国泰民安。
词的下片笔锋一转，情调随之而变。起首的“到如今”三字，与上片中的“记”字相呼应，它把词人的神思再度拉回现实。“嗟往事、梦魂中”六字，引发上面蕴蓄的势态，于是，此时的衰败与昔日的繁华便在这里得以绾合。这是六个沉重的字眼，那些令人沉醉的“前事”只能在“梦魂”之中得以出现，这当然是令人伤痛的事情，所以词人在“前事”上更着一“嗟”字，充分表现了苦楚之情。“馀霜鬓”三字，承接前事已成空而来。虽然，这里作的陈述，极为客观，但它的内中却饱含着词人的万般无奈与无限的悲哀。这几句为下片的第一个段落，在这里，词人运用了实事虚写的方法，使其情感更为浓厚。由此，全词转向深入，全词的中心也因此自然推出，即作者过京师之“感怀”。
“但寒烟”至全词的结束，为下片的第二个段落。重在写词人所见，以景物渲染气氛，为抒情服务。“但”字一直贯穿到底，引出此时所见之景：有映入眼帘的唯有漠漠的寒烟和瑟瑟凉风中飘飞的蓬草；昔日的殿宇徒然伫立，而那当年喧嚣的百官朝拜之所，天子臣子议政之庭，早已渺无人迹；苍茫的暮色中，唯见寒笳悲吟声中惊飞的塞雁；依然是昔日拂面的东风，可是，它们此时送来的却只有那说有出、道不尽的凄寂与酸楚。
这首词在写作上颇具特色，它主要是以多方面的对比来抒发词人的情感。纵观整首词上下片，读者可以清楚地认识这一点。首先，上片以“记神京”引起，下片以“到如今”发端，它们分别贯穿了上片和下片的始终，从而形成了鲜明地、在跨度地对比。就全词所展示的景象来看，是昔日京师宴乐与此时寒笳凄厉、哀鸿长鸣的边塞形成的鲜明对比。在这种强烈的大起大落中，作者的黍离之悲、伤痛之情得以充分地表现。其次，从用笔上看，全词写得比较徐缓。但由于作者在上下片中摄取不同景物和注入不同的情感，这种徐缓所起的作用也有差异。就上片来看，它用于较为平实的铺写中，从而表现出一种欢乐惬意的情绪。而当它用于下片的以虚写为主、且更加深刻的描写中时，这种徐缓便将词人的痛楚之情增浓变厚了。最后，就全词的着色来看，虽然同是写春天的景象，但词的上片明丽柔和，而下片更偏重于凄迷冷寂。它们与词人所要表现的情感相吻合起到了衬托和渲染的作用。