utwór był wielokrotnie coverowany, najczęściej z wersją Jimmiego Rodgersa. Artyści, którzy zaśpiewali to Tommy Duncan, Webb Pierce, Pink Anderson, Johnny Cash, Jim Jackson, Leon Russell, Mother McCree ’ s Uptown Jug Champions (featuring Jerry Garcia), Merle Haggard, Doc Watson, Prism, Suzy Bogguss (with Chet Atkins) Pokey Lafarge i Tim Blake Nelson z The Soggy Bottom Boys w filmie i ścieżce dźwiękowej do O Brother, Where Art Thou?. Była to również jedna z pierwszych piosenek, których nauczyła się Nastoletnia Joan Baez. Piosenka pojawia się pod różnymi tytułami, w tym „He’ s in the Jailhouse Now”, a niektóre wersje wykorzystują wiersz „She’ s in the graveyard now” w refrenie.
przed 1930 r.zarejestrowano i objęto prawami autorskimi kilka różnych jego wersji. Najwcześniejsza jest wersja Davisa i Stafforda z 1915 roku, która zawiera wersy o człowieku o imieniu Campbell oszukującym w grze karcianej i skorumpowanych wyborach. W 1924 roku Whistler ’ s Jug Band Z Louisville w stanie Kentucky nagrał ją pod tytułem „Jail House Blues”, który był tym samym tytułem co słynna melodia bluesowa Bessie Smith, ale w rzeczywistości był tym samym utworem co”In The Jailhouse Now”.
w 1927 roku Earl McDonald ’ s Original Louisville Jug Band dokonał kolejnego nagrania piosenki. Dwóch afroamerykańskich bluesmanów nagrało piosenkę przed Rodgersem: Blind Blake (w 1927) i Jim Jackson (w styczniu 1928). Jackson również chronił utwór przed Rodgersem. Ostatecznie, w 1930 roku, The Memphis Sheiks (pseudonim zespołu Memphis Jug) nagrali go w wersji, która często, choć błędnie, była coverem Jimmiego Rodgersa. Wersja melodii i tekstów, których użyli, jest wyraźnie zaczerpnięta z występów zespołu Louisville Jug, a nie Rodgers. Na niektórych płytach Memphis Sheiks, afroamerykański wykonawca wodewilu o imieniu Bert Murphy jest przypisany za napisanie piosenki.
krótko po nagraniu utworu przez Rodgersa, pojawiły się trzy dodatkowe wersje, które zdecydowanie nie były coverami Rodgersa. Boyd Senter i jego Senterpedes wykonali jazzową wersję w 1929 roku dla Victor Records (wydany na #22010, a później ponownie wydany na Bluebird Records #5545); Gene Kardos i jego orkiestra wykonali również jazzową wersję w 1932 roku dla Victora; A Billy Mitchell wykonał stride piano i shouterową wersję w 1936 roku dla wytwórni Bluebird.
Po Rodgers, najbardziej znaną wersją piosenki był Webb Pierce, który miał numer 1 country z piosenką w 1955 roku. Wersja Pierce ’ a spędziła na liście Billboard country przez 21 tygodni, stając się trzecią piosenką w historii listy, która spędziła tak długo na liście; wcześniej Eddy Arnold („I’ ll Hold You in My Heart (Till I Can Hold you in My Arms)”, 1947) i Hank Snow („I’ m Movin 'On”, 1950) osiągnęli feat. Przez 58 lat, te trzy utwory utrzymywały się na liście długowieczności przez większość tygodni na miejscu 1 z 21 tygodniami, z zaledwie garstką piosenek w ciągu miesiąca od dopasowania płyty do początku lat 60. wreszcie, 10 sierpnia 2013, „Cruise” przez Florida Georgia Line przewyższył „in the Jailhouse Now „Pierce’ a przez większość tygodni na miejscu 1, kiedy spędził swój 22 tydzień na miejscu 1.
Kiedy Johnny Cash nagrał piosenkę w 1962 roku, użył bardziej humorystycznego zestawu tekstów, opartego na wersji z 1915 roku; po zamknięciu Campbella jego żona Sadie nawiązuje romans z szeryfem. Cash nauczył się tej wersji od afroamerykańskich muzyków jug band w Memphis. Pomimo tego, większość pisarzy twierdzi, że Cash coverował piosenkę Jimmie’ ego Rodgersa, co dodatkowo zaciemnia, że piosenka pochodzi z afroamerykańskich wykonawców i była utrzymana w tradycji wodewilu i zespołu jug przez wiele dziesięcioleci.
piosenka odzyskała popularność po latach, kiedy Sonny James nagrał wersję na żywo podczas koncertu w 1976 roku w Więzieniu Stanowym Tennessee. Wersja Jamesa zawierała wsparcie zespołu Tennessee State Prison i osiągnęła 15 miejsce na liście Hot Country Singles chart w 1977 roku.
wersja Jimmie 'ego Rodgersa została zaśpiewana przez Gene’ a Autry ’ ego w jego filmie z 1941 roku „Back in the Saddle.”
W O bracie, gdzie jesteś?, „Delmar „(Tim Blake Nelson) śpiewa interpretację, z” Pete „(John Turturro) jodłowanie między wersami, przed Soggy Bottom Boys’ główny numer,”Man of Constant Sorrow”. Pozostałe utwory „Soggy Bottom Boys”są zsynchronizowane z Lipami, ale Tim Blake Nelson śpiewa swój własny wokal w tej piosence, podczas gdy jodłowanie Turturro jest faktycznie wykonywane przez Pat Enright z zespołu Nashville Bluegrass.
w 1979 roku piosenka została wykonana w wykonaniu blackface w musicalu One Mo’ Time przez Vernela Bagnerisa. Musical został wznowiony na Broadwayu w 2002 roku. Wersja piosenki użyta w serialu była taka sama jak ta nagrana przez zespoły Louisville Jug w latach 20.XX wieku.
Brad Paisley użył refrenu na koniec „Mr. Policeman”, piosenki z jego albumu 5th Gear z 2007 roku. Nowe teksty zostały napisane, aby zapewnić zakończenie historii piosenki.