W latach 50. XIX wieku w Sydney nie było budynku, w którym mogłyby odbywać się koncerty czy opery. Ogłoszono konkurs architektoniczny na gmach opery, na który wpłynęło 222 projektów z 32 krajów świata. Zwycięzcą okazał się w 1957 roku duński architekt Jorn Utzon.Budowę rozpoczęto w 1959 roku. Jednak na skutek licznych nieporozumień prace przeciągały się. Wzrastały także jej koszty. Wreszcie w 1966 roku duński architekt pokłócił się z wykonawcami i zrezygnował. Na jego miejsce zatrudniono czterech australijskich architektów.
Budowla początkowo miała kosztować 7 mln dolarów, jednak całkowity koszt wyniósł 102 mln dolarów. Budowano ją 16 lat, czyli 11 lat dłużej niż początkowo zamierzano.
Płaszczyzny dachowe pokryte są milionem białych płytek dachówki ceramicznej, które lśnią w słońcu i nie wymagają czyszczenia. Budowla ma 5223 m² okien, a ściany pokryte są topazową zielenią.
W gmachu opery znajduje się pięć sal, w których odbywają się przedstawienia teatralne, baletowe oraz koncerty, a także kino i dwie restauracje. W sali operowej znajduje się 1550 miejsc, w koncertowej 2700, w teatralnej 550, a w sali muzyki kameralnej 420.
20 października 1973 roku odbyło się oficjalne otwarcie, na które przyleciała do Sydney królowa brytyjska Elżbieta II. Zagrano wówczas IX Symfonię Bethovena oraz wystawiono Wojnę i Pokój Prokofieva.
Budynek opery jest znakiem rozpoznawczym Sydney. Jest to dzieło niezepomniane dla każdego, kto je zobaczy.