Филармония находится в историческом центре Одессы и с 1946 года расположена в здании бывшей «Новой купеческой биржи», которое было возведено в 1899 году по конкурсному проекту молодого и подающего надежды архитектора Викентия Прохаски, который был переработан главным городским архитектором А. И. Бернардацци.
Для здания биржи, возведённого в стиле венецианского неоренессанса, был взят за основу Палаццо Дукале в Венеции.