1895년 청일전쟁 후 시모노세키 조약으로 대만은 일본에 할양되었습니다. 일본은 대만 통치를 강화하기 위해,또한 임시 총독부가 위치했던 청나라 시대의 대만총독부 임시 청사로 쓰던 '흠차행대포정사사아문(欽差行臺布政使司衙門)'이 화재로 타버렸고, 일본은 새 청사 건설 계획을 세웠습니다.
이에 1906년 일본은 역사상 최초의 대형 공개 설계 공모전을 열었습니다. 단, 일본 본토 건축가들만 참가할 수 있었습니다. 그러나 1등 수상작이 네덜란드 헤이그 국제법원과 유사하고 설계 기법이 부족하다는 이유로, 최종적으로 2등 수상작인 나가노 우헤이지의 설계안이 채택되었습니다. 하지만 이 설계안 역시 실제 착공에는 여러 문제가 있었고, 결국 대만총독부 영선과의 직원이자 공모전에 참가하여 낙선한 모리야마 마츠노스케가 나서서 나가노의 설계를 기반으로 내부 구조를 조정하고 중앙 탑을 현재 높이로 높이는 작업을 했습니다. 완공 후 이 건물은 대만에서 가장 높은 건물이 되었습니다.