在歷史上，劉巴的父親劉祥做了很多年的江夏太守，因為積累了很多功勞，又曾平定江夏叛亂，甚至一度兼任蕩寇將軍。據三國志記載，就連劉璋的父親劉焉，最初也是靠他舉薦成孝廉，又因本身是皇親，所以才能入得朝堂，迅速獲得升遷。
在孫堅從長沙出發討董的時候，劉祥助其幹掉了不提供糧草的荊州刺史王睿，以及南陽太守張諮。後來，孫堅因為依附於袁術，參與討董而躲過一劫，但劉祥卻因枉自殺害朝廷大員而被嫉恨，被亂兵攻殺。
不久之後，董卓任命劉表為荊州刺史，而恰好劉表早年就與劉祥不合，便將劉巴給抓了起來，並想找藉口暗害於他。
但劉巴很聰明，設法逃過了此劫，並避難零陵，做了零陵郡戶曹掾的主簿。後來，隨著劉巴的才能和名聲傳遍四方，劉表又興起啟用之意，屢次徵辟他去刺史府做官，卻被他婉言推辭。即便是劉備，在投奔荊州後，也曾慕名前去拉攏，可惜劉巴卻看不起他，一直婉拒。
後來劉表病死，曹操南下荊州，劉巴分析出天下大勢後，當即果斷地前往歸順，並深受曹操器重，讓其做了府中曹掾。不久，赤壁之戰戰敗，曹操被迫回到北方，但卻令其去說降長沙、零陵、桂陽三郡，劉巴也欣然應允。
可這時候，劉備卻已經輕鬆取得三郡，劉巴被堵住了退路，進退不能。諸葛亮知道他的才華，親自寫信給他，勸他投靠，但極度反感劉備的劉巴，根本不願從命，加上之前的事情，終於被劉備所嫉恨。
無奈之下，劉巴只能更名換姓，南逃交州。可禍不單行，他的意見根本不被交趾太守所接受，反而對其生疑。