El diseño fue seleccionado a través de un concurso realizado en 1922 entre 8 destacados arquitectos, y se adoptó la propuesta de Koichi Sato, profesor de ingeniería en la Universidad de Waseda. La construcción estuvo bajo la supervisión de Shimizu Gumi, Ltd. La superficie total del edificio es de 3966 m2.

Dado que el terreno en esa zona de Tokio era conocido por su mala calidad y debilidad en el subsuelo, las obras subterráneas enfrentaron muchas dificultades. Las obras sobre el nivel del suelo se desarrollaron sin contratiempos, y en 1928 se celebró la ceremonia de colocación de la primera piedra. En octubre del siguiente año, se celebró la inauguración del edificio y del Auditorio Público, cuya parte pasó a ser gestionada por la ciudad de Tokio.

Los actos inaugurales del Auditorio Público tuvieron lugar el 20 de octubre de 1929.
Durante la mañana y la tarde, hubo “actos infantiles”, y por la noche, un “concierto de música”.
En ambos laterales del escenario, se exhiben los relieves del ilustre Zenjiro Yasuda, benefactor de la construcción del Auditorio Público de Hibiya, y del alcalde Shinpei Goto.