「penitentiary」は中世ラテン語の「penitentiarius」に由来し、「penitentia」は「悔い改め」を意味しました。

「penitentiarius」は古フランス語の「penitencier」に変わり、最終的に中英語を経て現代英語の「penitentiary」になりました。

最初は「悔い改めの場所」を意味しましたが、時間とともに「重罪犯のための刑務所」という現在の意味に進化しました。