「シオン」という言葉が最初に聖書で使われているのは第二サムエル５章７節です：「しかし、ダビデはシオンの要害を攻め取った。これが、ダビデの町である。」と書かれています。ですから、シオンとはもともとエルサレムの町の中にあったエブス人の要塞の名前だったのです。また、シオンは要塞だけではなく要塞がある町を指しても使われるようになりました。ダビデが攻め取った後に、シオンはダビデの町と呼ばれるようになりました（第一列王記８章1節；第一歴代誌１１章５節；第二歴代誌５章２節）。