雅鲁河发源于大兴安岭东麓。自西北－东南向，流经内蒙古自治区牙克石市、扎兰屯市和黑龙江省齐齐哈尔市碾子山区、龙江县，在龙江县注入嫩江。

牙克石市（原喜桂图旗）境内，雅鲁河发源于博克图镇的大兴安岭东南麓关帝庙岭，滨洲铁路线兴安站附近雅鲁伯图山（源头海拔1002米）。东南流至博克图镇，沿滨洲铁路南行15公里汇纳西布沁河，又东南流55公里于巴林镇的喇嘛山下汇纳巴林河，转向南流入扎兰屯市。 

扎兰屯市（原布特哈旗）境内，雅鲁河流经市区东部的鄂伦春民族乡、哈拉苏、卧牛河镇、高台子街道、成吉思汗镇5个乡镇和市区至成吉思汗边堡流进黑龙江省。干流在扎兰屯市境内长101.13公里，境内流域面积4988.93平方公里。（加出现大洪水年份及流量、最小流量年份）。境内段右纳阿木牛河、左纳卧牛河。

齐齐哈尔市区碾子山区境内，雅鲁河是齐齐哈尔市区嫩江水系流程较长、流量最大的一条支流。干流在碾子山区内，流程约35公里。此河段流经大兴安岭尔麓低山丘陵间的冲积洪积平原。河流由碾子山区西北隅丰收村北的金代修筑的界壕（金界壕）处入境。

龙江县境内，雅鲁河干流由西北向东南纵贯龙江县中部。在龙兴镇新功村右纳济沁河，经雅鲁河乡、鲁河乡、对宝乡，于永发乡右纳泉水河，南流纳罕达罕河。在广厚乡左纳奇克奈河，继而东流，在大莫呼屯南（另说：哈拉台村 ）入嫩江，河口海拔约140米。龙江县境内流长114公里。
新石器时期，雅鲁河、绰尔河流域已有人类活动。尧、舜时代，雅鲁河、绰尔河流域均在古肃慎国内，其地为濊貊部余部夫余部所居。春秋时期，扎兰屯市境域内的雅鲁河、绰尔河流域为东胡的重要游猎地之一。东汉末年，雅鲁河、绰尔河流域处于鲜卑势力东界之地。386年，雅鲁河、绰尔河及阿伦河流域为夫余国势力范围之内，为勿吉国黑水部。唐宪宗时，雅鲁河、绰尔河流域属南室韦中的和解部和乌罗护部（即北魏乌罗侯）两部的游猎之地。五代时期，契丹皇族遥辇、迭刺二部长期居住在雅鲁河、绰尔河、阿伦河流域，为契丹人活动中心。1116年，辽在泰州（今黑龙江泰来县塔子城）北设金山县，后升为静州。

相传，成吉思汗铁木真曾在雅鲁河流域屯驻重兵，他在统一草原各部和西征南战中，未实行分封前，大兴安岭岭东地区为其部将木华黎所统辖。1214年，铁木真对几个立有战功的弟弟和外戚家族进行分封，铁木真幼弟帖木真·翰赤斤的封地在大兴安岭东西之地以及嫩江、松花江一带。1408年，明王朝设立的阮里河（即雅鲁河）卫，即设在今大兴安岭东麓雅鲁河流域，同时在绰尔河流域设置了朵颜卫。1644～1661年，沙俄军队入侵黑龙江以北广大地区，清王朝忙于平定关内反清叛乱，无力顾及边疆防务，遂采取消极的内迁政策，将居住在这一边区的鄂伦春、鄂温克、达翰尔等族迁至黑龙江南岸居住，其中部分鄂伦春人、鄂温克人被迁至雅鲁河、绰尔河、济沁河流域的原始森林中游猎，雅鲁河、音河流域被编为“雅鲁阿巴”，济沁河流域被编为“济沁阿巴”，绰尔河流域被编为“托信阿巴”。

雅鲁河、绰尔河流域历史上是东胡、鲜卑、契丹、蒙古、女真等民族的居住地。到现代社会，仍是一个多民族聚居的地方。汉族居多，但有满、回、壮、苗、蒙古、朝鲜、达斡尔、锡伯、藏、布依、黎、俄罗斯、鄂温克、赫哲14个少数民族，少数民族人口中，蒙古、朝鲜、达斡尔、鄂伦春人、鄂温克占比在全国是比较高的。