O largo inicialmente abrigou uma capela dedicada a Nossa Senhora do Ó, no século XVI. Mais tarde, os frades Carmelitas instalaram no local o seu convento. Ali se instalaram, desde o século XVII, a Câmara e a Cadeia Pública e a Fazenda Real, além dos Armazéns Reais e a Casa da Moeda. No século XVIII, o logradouro ganhou importância sobretudo administrativa, até porque o Rio de Janeiro havia se tornado capital da Colônia. Na segunda metade do século XVIII foram realizadas obras importantes, como a transformação dos Armazéns Reais em sede do governo do Vice-Reinado, a construção da Igreja da Ordem Terceira do Carmo e a instalação do monumental chafariz de Mestre Valentim no largo. No Império, o largo foi chamado de D. Pedro II, e na passagem da República, o nome foi modificado para praça XV de Novembro, data da proclamação republicana. Em 1902, foi construído o Cais Pharoux que substituiu o antigo, colonial, do século XVIII.

A praia do Peixe ia originalmente do bairro da Misericórdia até o Arsenal. Depois de construído o cais que seria chamado Pharoux (onde hoje é a Praça XV), ficou limitado ao trecho entre o Largo do Paço e a Alfândega. Foi ali que apareceu o primeiro mercado da cidade, inicialmente ao relento e depois abrigado numa ampla casa desenhada por Grandjean de Montigny. Ao lado do mercado havia um cais para a atracação dos barcos peixeiros, construído pelo engenheiro Borja Castro.

A estátua eqüestre de D. Pedro I foi feita na França por Louis Rochet, cujo assistente era Auguste Rodin. Em 1861 Rochet montou o monumento na praça, e quatro anos depois foi instalado o gradil em ferro fundido que circunda a estátua, executado pelo artista Miguel Couto dos Santos. A praça Tiradentes era inicialmente conhecida como Rocio ou Rocio Grande, depois Terreiro da Polé e Campo dos Ciganos (por ter sido um dos primeiros locais em que se instalaram os ciganos na cidade). Em 26 de fevereiro de 1821 foi palco do juramento, por D. João VI, da futura Constituição que seria votada pelas Cortes de Lisboa; a partir daí, mudou o nome para Praça da Constituição. Após a Proclamação da República, ainda em 1889, foi sugerido que mudasse o nome para praça Tiradentes, prontamente atendido pela Câmara.

Monumental chafariz de Mestre Valentim, uma das poucas peças coloniais que resistiu à força modernizadora do começo do século XX. Considerado obra prima no trabalho de cantaria, foi construído entre 1780 e 1789, e figurou por quase um século como principal chafariz da cidade. Ao fundo, aparecem a Capela Imperial e a Igreja do Carmo.