天慶の乱によって中央に反旗を翻し関東に独立政権を打ちたてようとした平将門公が朝廷の派遣した俵藤太に討伐され、その首は京都三条河原に晒されたものの、天を舞い空を飛んで、遠く芝崎の地に至ったと伝えられている。
その将門公の首級が降り立ったのが神田明神の地であるとして言い伝えらる。
その後、1307年に真教上人が塚を建造し、さらに延慶2(1309)年に将門公の霊をも相殿に祀るようになり、改めて神田明神と名付けられた。
それから長い間、江戸の鎮守として鎮座していましたが、天正18(1590)年に徳川家康による大規模な城下の造成工事が開始され、元和2(1616)年に江戸城の鬼門の守護神となり移転された後は首塚がこの地に残されることとなった。
