古くから奥州の玄関口として知られ、平安時代には能因法師が「都をば霞とともに立ちしかど秋風ぞ吹く白河の関」と詠んでいる。能因法師は実際には白河には来なかったとも言われるが、逆にいえば、架空の旅を構想するほど「白河の関」は歌枕として魅力的であったということだろう。能因法師以外にも「白河の関」を詠んだ歌は数多く、後年、松尾芭蕉はおくのほそ道の中でそれらの歌や散文をもとにして、白河到着時の情景を装飾的な美文にこしらえている。下記は「おくのほそ道」（岩波文庫）よりの引用である。 　 心許なき日かず重るまゝに、白川の関にかゝりて旅心定りぬ。「いかで都へ」と便求しも断也。中にも此関は三関の一にして、風ソウ（馬偏に躁の旁。騒と同字）の人心をとゞむ。秋風を耳に残し、紅葉を俤にして、青葉の梢猶あはれ也。卯の花の白妙に、茨の花の咲そひて、雪にもこゆる心地ぞする。古人冠を正し衣装を改し事など、清輔の筆にもとゞめ置れしとぞ。　　　　　　　　　　　　　　　　　　卯の花をかざしに関の晴着かな　　　曾良　　　 「おくのほそ道」では、有名な書き出しの部分にも「春立てる霞の空に白河の関越えんと…」とある。また、芭蕉に同行した河合曾良の随行日記には、おくのほそ道本文よりも詳しい記述があり、そこに記されている街並みや、宗祇もどしの逸話にまつわる碑が今も市内に残る。同随行日記は上掲岩波文庫版「おくのほそ道」に所載されている。 　 江戸時代まで 古代には白河の関が置かれ広くその名は知られていたが、早くにその事蹟は失われ、詳細はいまだなぞである。芭蕉が訪れた江戸初期には、どこにあったのかもはっきりしなかった。後年、松平定信が候補地を比定して、現在公園として整備されている辺りを関跡としたが、有力な仮説の域を出ていない。 　 中世期には、小山氏の流れをくむ結城氏（白河結城氏）の所領となった。長く二つの結城家(白河(川)氏と小峰氏)が比較的平和裏に所領を分割統治していたとされ、両家の居城が、今も白川城（搦目城）、白河城（小峰城。ただし現在に残る城の原型を築いたのは江戸初期の丹羽氏）として市内に残っている。一時期は伊達氏をもしのぐ力を有していたとされるが、戦国時代には両結城家による抗争が起こり、さらには佐竹氏の攻撃を受けるなどして衰退した結果、会津の諸氏（蒲生氏、上杉氏など）の傘下に入る。その後、結城氏の一族や家臣の多くは、伊達や佐竹など東国有力武将のもとで仕えた。 　 江戸時代最初期には、外様の丹羽氏によって城下町が整備された。それ以降は、譜代中藩（一時期親藩）で老中を輩出した白河藩の城下町として栄えた。ただし、譜代のサラリーマン大名(諸松平氏、本多氏、阿部氏)が藩主としてめまぐるしく交替し、また幕末期には天領となったこともあって、市民の歴史意識はさほど高くない。唯一市民に広く知られているのは、日本初の公園といわれる南湖公園を整備し、寛政期の老中として寛政の改革を主導した松平定信ぐらいのものである。