这诗的主题是北方边塞战士的乡愁，取材则集中于战士服役归乡途中的感慨。全诗可分三节，每节四句，首节写役满放归，叙述离家长久，思归之极；次节写来到家乡，叙述为国守边，戍地遥远；末节写感慨讽谕，指出朝廷漠视人情，不了解也不关切戍边战士的心情，而将由此产生的政治后果置于言外。全诗手法多变，或写景以见情，或问答以表意，或正或反，或平叙或用典，其归宿点无不落到思乡之情的表达上，因而能以极平易的语言将征人思归之情写足。此诗情感真挚，语言质朴率真，是表现久戍思归主题的代表作。
不难看到，这诗的艺术构思汲取了《小雅·采薇》的一些经验，例如取材于战士归途的思想感情活动，交织即情与追叙的结构安排，采用对比、夹叙的表现手法等。但是《小雅·采薇》的主题思想侧重于褒扬战士的爱国精神，所以战士的内心矛盾主要是“靡室靡家，玁狁之故”，矛头指向外敌。而这首《杂诗》的主题思想则是讽谕朝廷不恤边卒，批评边塞政治不当，所以诗中不多涉及边塞民族矛盾扣军事情形，集中抒发“人情怀旧乡”和“胡宁久分析”，突出久戍不归的乡愁归思。由于主题思想比《小雅·采薇》单纯明确，因此它抒情性强，讽喻性突出，基本上不作叙事，从而使诗的旋律明快，节奏强烈，形成一种富有激情的基调，感讽弥深而气势充沛，动人心弦，促人省醒。钟嵘要求综合运用赋、比、兴的手法， “于之以风力，润之以丹采，使味之者无极，闻之者动心，是诗之至也”（《诗品序》）。可见这诗基本上是符合他的评论要求的。
从诗句看，起结两联都堪称佳句。“朔风”二句是赋而兴。开篇点明时节、地点，点出主题“归心”，这是“赋”的要求。但诗句意思是说，北风吹动秋茸，引起边塞的战马产生回家的心思。这并非直接的“赋”，而是一种能引起战士思归的物象，所以实质是“兴”。对全诗来说，这二句起兴，以鲜明形象、无尽感慨和充沛气势奠定了基调，成为贯串全诗的主旋律，因而是风力挺起的佳句。“师涓”二句是用典故的赋而比，实质是事比。诗人用师涓的故事，态度比较婉转，讽喻却很尖锐，旨在提醒朝廷长久不闻警诫亡国的声音，不察觉在戍卒乡愁思归之音中的不满与不安，其实关系国家的安危，因此，从讽谕美刺看，末二句亦是结得有力的，两相比较，各有特点。然而从南朝以来，评论都更欣赏“朔风”句，这与诗歌艺术思潮发展有关。
全诗手法多变，或写景以见情，或问答以表意，或正或反，或平叙或用典，其归宿点无不落到思乡之情的表达上，因而能以极平易的语言将征人思归之情写足。虽然模仿《小雅·采薇》却能出以己意，直抒胸襟，这在玄言诗风行的东晋诗坛上是十分可贵的，不失为同类题材中具有独特风貌的佳作。