La canzone è stata coperta molte volte, più frequentemente con la versione di Jimmie Rodgers. Tra gli artisti che l’hanno cantata figurano Tommy Duncan, Webb Pierce, Pink Anderson, Johnny Cash, Jim Jackson, Leon Russell, Mother Mccree’s Uptown Jug Champions (con Jerry Garcia), Merle Haggard, Doc Watson, Prism, Suzy Bogguss (con Chet Atkins ) Pokey LaFarge e Tim Blake Nelson con i Soggy Bottom Boys nel film e nella colonna sonora di O Brother, Where Art Thou?. E ‘ stata anche una delle prime canzoni apprese da un adolescente Joan Baez. La canzone si presenta sotto diversi titoli tra cui” He’s in the Jailhouse Now “e alcune versioni usano la linea” She’s in the graveyard now ” nel ritornello.
Prima del 1930, diverse versioni di esso sono stati registrati e protetti da copyright. La prima è la versione di Davis e Stafford del 1915, che ha versi su un uomo di nome Campbell che tradisce in un gioco di carte e in un’elezione corrotta. Nel 1924, Whistler’s Jug Band di Louisville, Kentucky, la registrò con il titolo “Jail House Blues”, che era lo stesso titolo di una famosa melodia blues di Bessie Smith ma era, in realtà, la stessa canzone di “In the Jailhouse Now”.
Nel 1927, Earl McDonald’s Original Louisville Jug Band fece un’altra registrazione della canzone. Anche due bluesmen afroamericani registrarono la canzone prima di Rodgers: Blind Blake (nel 1927) e Jim Jackson (nel gennaio 1928). Jackson ha anche protetto da copyright la canzone prima di Rodgers. Infine, nel 1930, i Memphis Sheiks (pseudonimo della Memphis Jug Band) lo registrarono in una versione che gli studiosi hanno spesso affermato, anche se erroneamente, fosse una cover di Jimmie Rodgers. La versione della melodia e testi che hanno usato, è chiaramente derivato dalle prestazioni Louisville Jug Band, non Rodgers. Su alcuni dei dischi degli sceicchi di Memphis, un artista di vaudeville afro-americano di nome Bert Murphy è dato credito per aver scritto la canzone.
Poco dopo che Rodgers registrò la canzone, apparvero tre versioni aggiuntive che non erano decisamente cover di Rodgers. Boyd Senter e i suoi Senterpedes fecero una versione jazz nel 1929 per la Victor Records (pubblicata il n. 22010, e successivamente ristampata sulla Bluebird Records n. 5545); Gene Kardos e la Sua Orchestra fecero anche una versione jazz nel 1932 per Victor; e Billy Mitchell ne fece una versione per piano stride e shouter nel 1936 per l’etichetta Bluebird.
Dopo Rodgers, la versione più conosciuta della canzone è stata di Webb Pierce, che ha avuto un No. 1 country hit con la canzone nel 1955. La versione di Pierce ha trascorso No. 1 nella classifica Billboard paese per 21 settimane, diventando la terza canzone nella storia del grafico di spendere il più a lungo sul grafico; in precedenza, Eddy Arnold (“I’ll Hold You in My Heart (Till I Can Hold You in My Arms)”, 1947) e Hank Snow (“I’m Movin’ On”, 1950) hanno raggiunto l’impresa. Per un totale di 58 anni, quelle tre canzoni tenuto il record di longevità per la maggior parte delle settimane al N. 1 con 21 settimane, con solo una manciata di canzoni provenienti entro il mese corrispondente al record nel 1960. Infine, il 10 agosto, 2013, “Crociera” da Florida Georgia Line superato Pierce “In Jailhouse Ora” per la maggior parte delle settimane al numero 1, quando è trascorso il 22 ° settimana alla numero 1.
Quando Johnny Cash registrò la canzone nel 1962, usò una serie di testi più umoristici, basati sulla versione del 1915; dopo che Campbell fu rinchiuso, sua moglie Sadie porta avanti una relazione con lo sceriffo. Cash ha imparato questa versione dai musicisti afro-americani della jug band di Memphis. Nonostante ciò, la maggior parte degli scrittori afferma che Cash stava coprendo la canzone di Jimmie Rodgers, il che oscura ulteriormente che la canzone è nata con artisti afro-americani ed è stata mantenuta viva in una tradizione di vaudeville e jug band per molti decenni.
La canzone riacquistò popolarità anni dopo quando Sonny James ne registrò una versione dal vivo durante un concerto del 1976 al Tennessee State Prison. La versione di James includeva il supporto della Tennessee State Prison Band, e raggiunse la posizione numero 15 nella Hot Country Singles chart nel 1977.
La versione di Jimmie Rodgers è stata cantata da Gene Autry nel suo film del 1941 “Back in the Saddle.”
In O Fratello, dove sei?, “Delmar” (Tim Blake Nelson) canta una versione, con ” Pete “(John Turturro) yodeling tra i versi, prima del numero principale dei Molgy Bottom Boys,”Man of Constant Sorrow”. Le altre canzoni di” Soggy Bottom Boys ” sono sincronizzate con le labbra, ma Tim Blake Nelson canta la sua voce su questa canzone, mentre lo yodeling di Turturro è effettivamente eseguito da Pat Enright della Nashville Bluegrass Band.
Nel 1979, la canzone è stata eseguita in una performance blackface nel musical One Mo’ Time di Vernel Bagneris. Il musical è stato riproposto a Broadway nel 2002. La versione della canzone utilizzata nello show era la stessa di quella registrata dai Louisville Jug Bands nel 1920.
Brad Paisley ha usato il ritornello per la fine di “Mr. Policeman”, una canzone del suo album del 2007 5th Gear. Nuovi testi sono stati scritti per fornire un finale alla storia della canzone.