Localizado entre o Morro do Castelo e a Lagoa do Boqueirão, o Largo foi chamado primeiramente de Largo da Ajuda por abrigar ao seu redor a Igreja de Nossa Senhora da Ajuda. No século XVIII, porém, morou por lá uma senhora cujo filho foi nomeado bispo do Rio de Janeiro em 1774. A distinta senhora então passou a ser referência na cidade, e a população começou a chamar o Largo da Ajuda também de Mãe do Bispo.