隋是黑水部。唐朝分為黑水、苦役、固兩部分。遼朝屬博斯鼻骨部，東京路、長春州、東北路將軍軍；晉朝屬於蒲和魯。袁屬於臥池堂。後來屬於庫江軍民的萬元戶。明代設拜苦衛、刺衛，屬奴童都城管轄。
這裏在清朝時被索隆和達斡爾人占領。康熙二十八年(1689)，設副總司令，隸屬黑龍江將軍。同治三十八年(1699)，黑龍江將軍遷此。光緒三十壹年(1905)，設立黑水堂，十二月廢副部。光緒三十四年(1908)，由黑水堂升為龍江府。
民國二年(1913)改為龍江縣，隸屬黑龍江省龍江道。民國18年(1929)成立東北行政委員會，縣直屬省管轄。龍江縣是黑龍江省的壹級縣。建國之初，偽滿洲國還在用舊制度。到康德元年(1934)十二月，偽滿洲國實行地方行政機構改革，將東北分為十四省，龍江縣劃歸新成立的龍江省管轄。康德三年(1936)，齊齊哈爾市脫離龍江縣。民國三十五年(1946)四月，龍江縣由齊齊哈爾市遷至富拉爾基。民國三十六年(1947)6月5日公布東北新省區計劃，改偽省為九省，撤銷龍江省，將龍江縣劃歸嫩江省管轄。
65438年至0949年，龍江縣屬黑龍江省管轄。
1955年9月，龍江縣從富拉爾基遷至朱家坎鎮。
1956年，井陘縣並入龍江縣。
1958年9月，朱家坎鎮改為龍江鎮。
1985實行市管縣新體制，嫩江地區撤銷，龍江縣劃歸齊齊哈爾市管轄。
2003年撤銷鶴山鄉，行政區域劃歸龍江鎮管轄，鎮人民政府設在龍江鎮甄宓街；撤銷永發鄉，其行政區域劃歸景星鎮管轄，鎮人民政府設在景星村；撤銷鴨綠江鄉，將其行政區域劃歸龍興鎮管轄，鎮人民政府設在龍興村；撤銷寶鄉，將其行政區域劃歸山泉鎮管轄，鎮人民政府設在和平村。