「off-key」は副詞 'off' と 'key'（音楽の 'key' の意）から成る複合語。'off' は古英語の 'of'（離れて・遠ざかって）に由来する。'key' は一般的には古英語の 'cæg'（錠を開ける道具）に由来し、比喩的に「支配するもの・決定するもの」を意味するようになり、さらに音楽の『調（キー）』の意味に用いられるようになった。

'off' は古英語 'of' から中英語で 'of'/'off' へと発展し「離れて」の意味を持つようになった。'key' は古英語 'cæg' から中英語 'key' となり、近代にかけて音楽的な「調（キー）」の意味を獲得した。'off-key' という複合語は18～19世紀頃から現代英語で用いられるようになった。

当初は文字どおり「音楽のキー（音程）から外れている」という意味で使われた。時間とともにその音楽的意味は保たれつつ、比喩的に「場違い」「不適切」という意味も生じた。