每个肾有100万个以上肾单位，是肾的结构与功能的基本单位。每个肾单位包括肾小体和肾小管两部分。根据肾小体在皮质内的位置，又分为表浅肾单位和髓旁肾单位。表浅肾单位髓袢短，仅达髓质外带；髓旁肾单位的髓袢长，可伸达乳头。从数量上看，前者为后者的7倍。

肾小体由肾小球及肾球囊组成。肾小球由毛细血管丛组成，起源于入球小动脉，然后分4～5支，各支再分成毛细血管小叶，各小叶毛细血管汇集成一条出球小动脉；后者出肾小球后，又广泛分支，再成毛细血管网缠绕于肾小管外，其血流最后回流入小叶间静脉。肾球囊为包绕在血管球外面的凹陷的双层囊，外为壁层，内为脏层，之间为球囊腔。壁层细胞下面为肾小球周围基膜。肾小管分为近端小管、髓袢和远端小管。近端小管紧接肾小囊的尿极，分为两部分，第一段为近端小管曲部，第二段为近端小管直部，它构成髓袢降支的第一段。髓袢也称细段，为连于近端小管直部与远端小管直部之间的细直段。远端小管由远端小管直部和曲部构成。