这首诗大致可分两段。第一段从篇首至“美人如花隔云端”，写诗中人“在长安”的相思苦情。诗中描绘的是一个孤栖幽独者的形象。他（或她）居处非不华贵──这从“金井阑”可以窥见，但内心却感到寂寞和空虚。作者是通过环境气氛层层渲染的手法，来表现这一人物的感情的。先写所闻──阶下纺织娘凄切地鸣叫。虫鸣则岁时将晚，孤栖者的落寞之感可知。其次写肌肤所感，正是“霜送晓寒侵被”时候，他更不能成眠了。“微霜凄凄”当是通过逼人寒气感觉到的。而“簟色寒”更暗示出其人已不眠而起。眼前是“罗帐灯昏”，益增愁思。一个“孤”字不仅写灯，也是人物心理写照，从而引起一番思念。“思欲绝”（犹言想煞人）可见其情之苦。于是进而写卷帷所见，那是一轮可望而不可即的明月呵，诗人心中想起什么呢，他发出了无可奈何的一声长叹。这就逼出诗中关键的一语：“美人如花隔云端。”“长相思”的题意到此方才具体表明。这个为诗中人想念的如花美人似乎很近，近在眼前；却到底很远，远隔云端。与月儿一样，可望而不可即。由此可知他何以要“空长叹”了。值得注意的是，这句是诗中唯一的单句（独立句），给读者的印象也就特别突出，可见这一形象正是诗人要强调的。
以下直到篇末便是第二段，紧承“美人如花隔云端”句，写一场梦游式的追求。这颇类屈原《离骚》中那“求女”的一幕。在诗人浪漫的幻想中，诗中人梦魂飞扬，要去寻找他所思念的人儿。然而“天长地远”，上有幽远难极的高天，下有波澜动荡的渌水，还有重重关山，尽管追求不已，还是“两处茫茫皆不见”。这里，诗人的想象诚然奇妙飞动，而诗句的音情也配合极好。“青冥”与“高天”本是一回事，写“波澜”似亦不必兼用“渌水”，写成“上有青冥之高天，下有渌水之波澜”颇有犯复之嫌。然而，如径作“上有高天，下有波澜”（歌行中可杂用短句），却大为减色，怎么读也不够味。而原来带“之”字、有重复的诗句却显得音调曼长好听，且能形成咏叹的语感，正《诗大序》所谓“嗟叹之不足，故永歌之”（“永歌”即拉长声调歌唱），能传达无限感慨。这种句式，为李白特别乐用，它如“蜀道之难难于上青天”、“弃我去者，昨日之日不可留；乱我心者，今日之日多烦忧”、“君不见黄河之水天上来”等等，句中“之难”、“之日”、“之水”从文意看不必有，而从音情上看断不可无，而音情于诗是至关紧要的。再看下两句，从语意看，词序似应作：天长路远关山难（度），梦魂不到（所以）魂飞苦。写作“天长路远魂飞苦，梦魂不到关山难”，不仅是为趁韵，且运用连珠格形式，通过绵延不断之声音以状关山迢递之愁情，可谓辞清意婉，十分动人。由于这个追求是没有结果的，于是诗以沉重的一叹作结：“长相思，摧心肝！”“长相思”三字回应篇首，而“摧心肝”则是“思欲绝”在情绪上进一步的发展。结句短促有力，给人以执着之感，诗情虽则悲恸，但绝无萎靡之态。
此诗形式匀称，“美人如花隔云端”这个独立句把全诗分为篇幅均衡的两部分。前面由两个三言句发端，四个七言句拓展；后面由四个七言句叙写，两个三言句作结。全诗从“长相思”展开抒情，又于“长相思”一语收拢。在形式上颇具对称整饬之美，韵律感极强，大有助于抒情。诗中反复抒写的似乎只是男女相思，把这种相思苦情表现得淋漓尽致；但是，“美人如花隔云端”就不象实际生活的写照，而显有托兴意味。何况我国古典诗歌又具有以“美人”喻所追求的理想人物的传统，如《楚辞》“恐美人之迟暮”。而“长安”这个特定地点更暗示这里是一种政治的托寓，表明此诗的意旨在抒写诗人追求政治理想不能实现的苦闷。就此而言，此诗诗意又深含于形象之中，隐然不露，具备一种蕴藉的风度。
此诗以“咫尺愁风雨，匡庐不可登”作为开头，随手将题目中“江行”的意思镶嵌在内，但没有明说，只是从另一角度隐隐化出，用的是“暗起”的写作手法。
“咫”是八寸。“咫尺”，形容距离极近。“匡庐”即指庐山。近在咫尺，本是极易登临，说“不可登”，是江行遇雨所致，船至庐山脚下，却为风雨所阻，不能登山。“不可登”三字写出了使人发愁的“风雨”之势，“愁”字则透出了诗人不能领略名山风光的懊恼之情。“不可登”，不仅表示了地势的由下而上，而且，也描摹了江舟与山崖之间隔水仰望的空间关系。诗人仅仅用了十个字，即道出当时当地的特定场景，下笔非常简巧。
一般说来，描写高山流水的诗歌，作者多从写形或绘色方面去驰骋彩笔；此诗却另辟蹊径，以引人入胜的想象开拓了诗的意境：“只疑云雾窟，犹有六朝僧”。庐山为南朝佛教胜地，当时山中多名僧大师寄迹其间。这些往事陈迹，成了诗人联想的纽带。仰望高峰峻岭，云雾缭绕，这一副奇幻莫测的景象，不能不使诗人浮想翩翩：那匡庐深处，烟霞洞窟，也许仍有六朝高僧在隐身栖息吧。此种迹近幻化、亦真亦妄的浪漫情趣，更增添了匡庐的神奇色彩。庐山令人神往的美景很多，诗人却“只疑”佛窟高僧，可见情致的高远和诗思的飘渺了。
第三句中的“疑”字用得极好，写出了山色因云雨笼罩而给人的或隐或现的感觉，从而使读者产生意境“高古”的联想。“只疑”和“犹有”之间，一开一阖，在虚幻的想象中渗入似乎真实的判断，更显得情趣盎然。
此诗以疑似的想象，再现了诗人内心的高远情致。写法上，似用了国画中的“滃”写技法，以淡淡的水墨来渲染烟雾迷蒙的云水，虚虚实实，将庐山写得扑朔迷离，从而取代了正面写山的有形笔墨，确可视为山水诗中别具神情的一首佳作。