Historia ya hospitali ya Rufaa ya Mkoa wa Ruvuma inaanzia mwaka 1920 wakati majengo ya mwanzo yalipojengwa. Majengo hayo yalitumika kama kambi ya jeshi la askari wa koloni la kiingereza waliojulikana kama King’s African Rifles (KAR). Mwaka 1946 ilianzishwa zahanati iliyohudumia askari pamoja na familia zao. Zahanati hiyo iliendelea kuongezewa majengo mengine na kuhudumia wananchi wengine wa mji wa Songea hadi wakati wa Uhuru mwaka 1961.

Baada ya Uhuru wa Tanganyika mwaka 1961, Zanahati hiyo ilipandishwa hadhi na kuwa hospitali ya wilaya ya songea chini ya jimbo la Mtwara Mikindani. Mwaka 1964 Hospitali hii ilipandishwa hadhi na kuwa  Hospitali ya  Mkoa Songea (HOMSO). Aidha Mwaka 2009  ilitangazwa na serikali  kuwa Hospitali ya Rufaa ya Mkoa wa Ruvuma.