À l’issue d’un concours doté d’un prix organisé en 1922 et mettant en compétition huit architectes renommés, la proposition de Koichi Sato, docteur en ingénierie et professeur à l’université de Waseda fut adoptée pour la conception du bâtiment. Les travaux de construction furent entrepris par l’entreprise Shimizu Gumi, Ltd. sous sa supervision. La surface totale utilisée pour l’enceinte du bâtiment municipal était de 3 966 m2.

Les terrains à Tokyo étant notoirement meubles et de mauvaise qualité, les travaux de construction souterrains rencontrèrent de nombreuses difficultés. Les travaux hors sol quant à eux se déroulèrent sans encombre et la cérémonie de pose de la première pierre eut lieu en 1928. En octobre de l’année suivante, une cérémonie d’inauguration du bâtiment municipal et de l’auditorium public fut organisée et la gestion de la partie correspondant à l’auditorium public fut transférée à la ville de Tokyo.

Les représentations inaugurales (kokera otoshi en japonais) de l’auditorium public eurent lieu le 20 octobre 1929.
Des « spectacles pour enfants » furent organisés le matin et l’après-midi, et un « concert de musique » le soir.
Des reliefs du vénérable Zenjiro Yasuda et du maire Shinpei Goto, qui ont contribué à la construction du Hibiya Public Hall, sont exposés de chaque côté de la scène.