霍去病如此過早的離世，人們都感到無比的悲痛和惋惜。漢武帝在霍去病死後，專門為他修建了一座形狀像祁連山的墳墓，還讓匈奴民眾身穿黑甲，把霍去病的靈柩護送到墓地安葬，以彰顯霍去病的功勳。從漢武帝對霍去病葬禮的安排也可以看出，漢武帝是非常喜歡霍去病的。

司馬遷在《史記》中詳細的記載了霍去病的葬禮，但對其死因，只是一筆帶過，而沒有其他任何記載。霍去病當時官至大司馬，再加上他對匈奴的戰功，也不應該如此簡單的一筆帶過，這也給後人留下了一下不解之謎。為何司馬遷不肯對霍去病的死因有過多提及，難道是司馬遷故意為之，暗示霍去病的死另有其因。

現在關於霍去病的死因有以下幾說法：

第一種說法是自然病死。霍去病是病死的這種說法，是最廣為流傳的，也是官方的說法。在後來《建元以來侯者年表》一書中說到，霍去病是病死的，除此之外也無其他詳細的記載了。但是霍去病才24歲，如此的年輕，要生多重的病也會如此早逝。再則，霍去病是武將出身，又常年在外征戰，身體應該是相當好的。所以病死一說難以讓人信服。

第二種說法是得瘟疫而死。匈奴不敵漢軍，匈奴撤退到漠北之後，為了與漢軍進行周旋，匈奴將得了瘟疫而死的動物丟到水源中，霍去病的部隊正好喝了這個水。後得就得了瘟疫，不久後就死了。如果是這樣那麼一支軍隊都喝了那裡的水，那麼會有很多的人因感染瘟疫而死。但是查閱歷史資料，匈奴確實傳播過瘟疫，但是在那段時間並沒有出現大規模人瘟疫而死的記錄。所以這種說法可性度也不高。

第三種說法是意外或是被殺。這種說法可性更低了，其一是，如果真是意外或是被殺，那麼司馬遷應該會在《史記》中提到，但是並沒有。其二是，漢武帝的一個兒子被熊拍死都有記載，更何況是時任大司馬的霍去病了。作為大司馬他的死，怎麼都會有記載，所以這種說法的可能性不大。

第四種說法是漢武帝下令殺掉了霍去病。這種可能性也不大，當時正是備戰匈奴的關鍵時期，而霍去病又是主將的不二人選，漢武帝怎麼可能殺掉一個可用之人。漢武帝最初培養霍去病的就是為了用他去制衡衛青，避免衛青一家勢大。但是霍去病在漠北之戰之後，殺李敢，勸封王子等一系列動作，讓漢武帝感覺到讓他平衡衛青的願望很難實現了，反而二人有可能結成聯盟影響到自己的絕對集權。所以漢武帝才在這個關鍵時期對霍去病痛下殺手，因為這正是備戰匈奴關鍵時期，世人也不會懷疑霍去病之死，是他所為的。如果真是這樣，那麼掩蓋事實兩千多年的，就是漢武帝對霍去病的喜愛和厚葬。

第五種說法是衛青集團下的殺手。這種可能性是有的，前面說了，漢武帝就是利用霍去病來制衡衛青集團的，衛青集團處於這種原因也是有可能殺死霍去病的。但是衛青畢竟是霍去病的舅舅，應該也不會這麼去做。就算是出於利益考慮，最可能的也是對霍去病就行打壓，也不至於取他的性命。

第六種說法是霍去病可能是自殺的。這種說法是有可能的，其一，他是漢武帝用來制衡衛青的，但是另一邊衛青又是他的舅舅，處於親情考慮，他是不願意。其二，他射殺李敢一事，已經讓他民心盡失，在民眾間已經沒有了人氣。其三，他一手帶起來的人不是匈奴降將，就是隻會打仗的低階軍官。其四，霍去病少年得意，性格孤傲不恤士兵，朋友不多，是孤立的一派，官場上一直是無助的。可能是這種種，才讓一代名將選擇自殺，來結束自己的一生。