本病需与以下的疾病进行鉴别
1.软组织炎症
早期急性骨髓炎与早期蜂窝织炎、丹毒等软组织炎症常不易鉴别。软组织炎症时全身中毒症状较轻，而局部红肿较明显，压痛较浅。早期急性骨髓炎压痛常发生于长骨干骺端处。以单指检查时，患部四个平面均有深部压痛征，此即肢体圆柱形深部压痛征。软组织炎症时，因病变居于骨骼之一侧，故压痛只限于一个或两个平面，这一点对早期鉴别诊断有重要意义。此外，两者骨扫描所见也不相同。
2.急性化脓性关节炎
肿胀压痛在关节间隙而不在骨端，关节活动度几乎完全消失。有疑问时，行关节腔穿刺抽液检查可明确诊断。
测定血中C-反应性蛋白含量有助于判断急性血源性骨髓炎是否并发化脓性关节炎：合并化脓性关节炎时，C-反应性蛋白值较单纯骨髓炎为高，且起病后迅即出现此种差别;化脓性关节炎患者C-反应性蛋白恢复正常值也较迟。红细胞沉降率虽也具有鉴别诊断意义，但两组患者之差别出现较晚，恢复正常值也迟得多，不如C-反应性蛋白之变化能准确反映临床状况。
3.风湿性关节炎
为风湿病的一部分，起病缓慢，全身情况(如发热)和局部症状(关节肿痛)均较轻，常为多关节游走性，血沉、抗O等血液检查常呈阳性。
4.恶性骨肿瘤
特别是尤文肉瘤，常伴发热、白细胞增多、X线示“葱皮样”骨膜下新骨形成等现象，须与骨髓炎鉴别。鉴别要点为：尤文肉瘤常发生于骨干，范围较广，全身症状不如急性骨髓炎重，但有明显夜间痛，表面可有怒张的血管。局部穿刺吸取活组织检查，可以确定诊断。
