山东省牟平县人。1941年2月，他参加了胶东八路军东海独立团，同年6月加入中国共产党。历任班长、排长、连长等职。在抗日战争中，他参加大小战斗达60次，先后荣获战斗模范、模范党员、学习模范、劳动模范等称号。

1945年10月，薛亚山随部队来到东北，先后任东北民主联军第四纵队十师二十九团三营警卫连和七连连长。1946年5月25日，在鞍海战役中，他率领一支不到20人的突击队，从“神社山”向北猛打猛冲，扫除了敌人数座碉堡和火力点，一直攻到国民党军一八四师五五一团控制的保安司令部和市公署大楼。战斗结束后，辽东军区授予薛亚山战斗英雄称号。

1947年4月，在四保临江的梅河口战斗中，薛亚山奉命率领一个排攻打敌人死死困守的一幢红楼。他第一个跳窗而入，冲向敌人，不幸身中7弹，壮烈牺牲。时年仅28岁。