上海市國家稅務局是根據《中共中央辦公廳、國務院辦公廳關于印發<上海市人民政府機構改革方案>的通知》（廳字〔2008〕17號）的規定設立，為市政府直屬機構。上海市地方稅務局與上海市國家稅務局合署辦公。

2018年6月15日，上海市國家稅務局和上海市地方稅務局合并后新組建的國家稅務總局上海市稅務局。