1858年、アムール川を東進してきたロシア帝国の監視所がアムール川とウスリー川の合流点に建設され、17世紀のロシアの探検家エロフェイ・ハバロフにちなんでハバロフカと命名された。
ハバロフはアムール川探検の際、現在のハバロフスク付近にアチャンスクという要塞を築き植民地化をもくろんだが、清軍などの攻撃により放棄している。1860年の北京条約により、この町の中心部になるアムール川東岸の地域は正式に清からロシアに割譲された。1895年には現在のハバロフスクという名前になった。
その後はロシアの極東進出の拠点となり、1916年にはアムール川を渡る鉄橋アムール川鉄橋、現在のハバロフスク橋が完成して、シベリア鉄道の国内線が完成した。