地下块茎是山药的食用部分，又因长的形状像根，有时也叫根状茎。根据块茎形状大致可以分为长形山药、扁形山药和圆形山药，但在各个类型中都有中间类型的变异。这种变异，主要是受到遗传和环境的影响，其中土壤环境的影响最大。
（1）棍棒形长山药 上端很细，中下部较粗，一般长度为60～90厘米左右，最长的可达2米。其直径一般为3～10厘米，单株块茎重0.5～3.0千克，最重的可达5千克以上。棍棒形长山药，肉极白，黏液很多。
（2）扁山药 块茎扁平，上窄下宽，且具纵向褶襞，形如脚掌。
（3）圆山药 多为短圆筒形，或呈团块状，长15厘米，直径10厘米左右。大薯的形状和颜色较多，有长形的、扁形的、圆形的，五股八杈，肉为红色或紫红色。
山药块茎上端存有一个隐芽和茎的斑痕，通常用来做种，称山药栽子。除这一个顶芽外，其他部位都有不定芽。因此，把山药块茎的任何部分切段栽植，都可以长出山药来。