哈尔滨是金、清两代王朝的发祥地。金收国元年（1115年），金代在上京（哈尔滨阿城区）建都。金大定十三年（1173年），上京重新被立为陪都。

元、明时，哈尔滨又成为成吉思汗三弟斡斤家族的领地和奴尔干都司的辖地。明末清初时期，女真人曾用此城遗存的建筑材料在原地修筑阿勒楚喀要塞。

19世纪末，哈尔滨已出现村屯数十个，居民约3万人，交通、贸易、人口等经济因素开始膨胀，为城市的形成与发展奠定了基础。

20世纪初，哈尔滨就已成为国际性商埠，先后有33个国家的16万余侨民聚集这里，19个国家在此设领事馆。

民国十二年（1923年），哈尔滨成立东北地区第一个党组织。民国十六年（1927年），在哈尔滨召开了东北地区第一次党代会，并成立满洲临时省委。

民国二十一年（1932年），哈尔滨沦为日伪统治。哈尔滨人民进行了艰苦卓绝的斗争，先后涌现出赵尚志、杨靖宇、李兆麟、赵一曼等名垂千古的民族英雄和革命烈士。

民国三十四年（1945年），哈尔滨从日伪统治下解放，人口70余万。

民国三十五年（1946年）4月28日，哈尔滨正式建立人民政权，成为全国解放最早的大城市。

哈尔滨素来有着“东方小巴黎”、“东方莫斯科”的美名，市内建筑中西合壁。有圣索菲亚教堂、尼古拉教堂、俄罗斯木屋、歌特式楼宇、中央大街、哈尔滨极地馆、防洪纪念塔、文庙、极乐寺、萧红故居、苏联红军烈士纪念碑等文物古迹。