Po mnenju zgodovinarjev je Mali Rigelj obstajal že vsaj okoli leta 1450, medtem ko bi Veliki Rigelj, ki je ležal v mehovskem gospostvu, a je bil prvotno prav tako kočevarska vas, utegnil biti nekoliko mlajši. Naselje so verjetno ustanovili staro nemško govoreči naseljenci, vendar so v 16. stoletju ob Kočevarjih v njem živeli tudi že prebivalci s priimki slovenskega izvora. Kot zanimivost velja omeniti, da je bil v tridesetih letih 20. stoletja Mali Rigelj po tedanjih navedbah precej večji od Velikega, medtem ko je književnik Janez Trdina v svojih zapiskih še nekaj desetletij prej omenjal, da ima Veliki Rigelj sedem hiš, Mali pa štiri. Ljudje v obeh vaseh naj bi bili premožni, dva celo bogata, je zapisal Trdina.
Kraj se v pisnih virih prvič omenja leta 1574 kot Schrigl. Prvotno je obsegal dve celi kmetiji (hubi), ki sta bili v 16. stoletju razdeljeni med devet posestnikov, tako je v naselbini takrat živelo približno 30 do 35 prebivalcev. Razlagalci imena so toponim Riegel, ki se pojavlja tudi v drugih poimenovanjih na Kočevskem, izpeljevali bodisi iz podolgovatega gorskega hrbta oziroma pomola, na katerem je nastalo naselje, bodisi iz zemljiške razdelitve hišnih posesti na pasove, pri čemer pa je slednje manj prepričljivo. Dodatek »mali« je krajevno ime dobilo, da bi vas ločevali od Velikega Riglja vzhodno od Kočevskih Poljan.
Podobno kot številne druge kočevarske vasi se je tudi Mali Rigelj od leta 1890 soočal z izseljevanjem prebivalstva. Število vaščanov je z 71 v štiridesetih letih upadlo na zgolj 48. Prebivalci so se pred drugo svetovno vojno preživljali z dnino in kot delavci v opekarni, kjer so izdelovali cementno strešno opeko in cevi. Zaslužek so si izboljševali s prodajo vina in jabolk, čeprav lastna kmetijska dejavnost ni zadostovala za kritje potreb. Okoli vasi so bila raztresena polja in nekaj vinogradov, naselje je bilo v tistem času dostopno z vozom. Viri iz prve polovice 20. stoletja ne omenjajo več prodaje kostanja, po kateri so bili vaščani obeh Rigljev svoje dni znani po vsej Kočevski in širše.
Decembra 1941 so ob preselitvi Kočevarjev vas zapustile tri družine s skupno 17 člani. Podatki o tem, koliko jih je ostalo, se razlikujejo. Nekatere navedbe govorijo o samo eni družini. V opuščene hiše so se sčasoma naselili Slovenci. Junija 1943 je bil v vasi kot zaščitna enota vodstva partizanskega gibanja ustanovljen Levstikov udarni bataljon, ki je nastal z združevanjem manjših vojaških skupin. Bataljon se je po kapitulaciji Italije preoblikoval v Levstikovo brigado.
Konec druge svetovne vojne je vas dočakala v dokaj dobrem stanju, saj je bilo od dvanajstih hiš devet še uporabnih, je pa v njih živelo samo 26 prebivalcev. To število se je v naslednjih desetletjih še zmanjšalo in se večinoma gibalo okoli dvajset. Vaščani so se na začetku sedemdesetih let po uradnih podatkih ob delu v Dolenjskih Toplicah večinoma preživljali s prodajo drv in hlodovine ali pa bili upokojenci. Trtni nasadi na južni strani naselja so bili pretežno v lasti sosednjih vasi.
Danes v rojstnem kraju Matthiasa Petschauerja, očeta dr. Hermanna Petschauerja, avtorja Stoletne knjige Kočevarjev, enega temeljnih preglednih del o zgodovini Kočevske, po državnih statistikah živi manj kot petnajst prebivalcev. Vendar so podatki nezanesljivi, saj zajemajo tudi ljudi, ki so v naselju sicer prijavljeni, a zgolj občasno obiskujejo svoja počitniška prebivališča. Ob zidanicah in hišah, ki so vpisane v register dediščine, Malemu Riglju pečat daje tudi cerkev sv. Uršule iz prve polovice 18. stoletja z baročnim oltarjem. Leta 1992 je bila na predlog novomeških konservatorjev razglašena za kulturni spomenik lokalnega pomena.
