竹東發現石油的埋藏，由台灣礦業竹東油業所開採成功，於昭和十年（1935年）建立這座「山神社」，作為採油、瓦斯事業順利安全進行的守護神。因為日本新瀉縣是產石油的地方，為了保護事業之安全，建立「彌彥神社」，奉祀的是火神的天香山神。
神社從「社格」來分別，是官社和諸社，官社分為官幣社與國幣社，諸社分為府縣社、鄉社、無格社等。為什麼員崠里的神社不稱「彌彥神社」呢？因為奉祀的是天香山神外尚有四神（新竹神社奉祀的四神），和這個神社是小小的社（祠）（人都進不去），山的意思也有「小」的意思之代名詞，所以小小的「社」俗稱山神社。
這個「山神社」是為職業（採石油業、容易發生火災）的保護安全神，也就是為台灣礦業竹東油業所的從業人員的守護神，雖然如此，當時「竹東神社」尚未建立，在竹東的日本人多人捐獻多具「石燈籠」，但大部分都不見了。不但如此，「山神社」的神居處「神龕」也被拆除，僅存石造台座而已。
山神社地址是員崠國小接鄰處，遙望四周是絕佳的位置。竹東油業所在神社的斜左對面，建造員工宿舍「社宅」（簡稱為社宅），光復後改為「資源莊」。油業所的員工因為近鄰，參拜也很方便，也覺得工作之守護神近在身邊，心靈上安定多了。
上述山神社的位置，可以俯瞰竹東的全景，不失為參觀古蹟、遊賞風景之好去處。