上山市屬日本山形縣也。
東臨宮城縣柴田郡川崎町、同縣刈田郡七宿町,南至東置賜郡高畠町,西伴南陽市,北接山形市。
昭和廿九年,南村山郡:上山町、西鄕村、本庄村、東村、宮生村、中川村合,而爲上山市。[一] 卅一年,倂南村山郡本澤村之一部。 卅二年,倂南村山郡:赤湯町之一部、山元村、山形市之一部。而南村山郡廢。[二]