Olímpio Noronha tem as suas raízes históricas em Baependi, um dos mais antigos municípios da grande região a que pertence. A primeira bandeira que penetrou naquelas terras partiu de Taubaté (SP) em 1692, e era composta pelos sertanistas Antônio Delgado de Veiga. Os bandeirantes vieram atraídos pela notícia de que havia muito ouro na região, o que desfez o historiador Orville Derby, esclarecendo que o ouro era apenas de lavagem (ouro fino que se apura em bateia) e não em grande quantidade como fora propalado. Enquanto uns cuidavam do garimpo, outros preferiam a agricultura e a pecuária e várias sesmarias foram concedidas pela Coroa Portuguesa aos primeiros povoadores, que pertenciam às famílias Pedroso, Silveira e Souza.
No início da segunda década do século XVIII, foi construída a primeira capela, dedicada para Nossa Senhora de MontSerrat, às expensas do capitão-mor Tomé Rodrigues Nogueira do Ó. O patrimônio da capela foi doado por Luiz Pereira Dias, natural da Ilha Terceira. Era o núcleo do povoado de Baependi, de ancestrais portugueses, que com o correr dos anos foi crescendo e progredindo.
Em 1841, já na categoria de vila, encampava a freguesia do Espírito Santo dos Camquibus, elevada a município em 1872, com o nome de Cristina. No fim do Século XIX, chegava o transporte ferroviário à região, o município de Cristina recebeu os trilhos da Estrada de Ferro Sul Mineira, tendo sido construída em sua área rural, em terras de propriedade de Olímpio Noronha, uma estação com o nome de Santa Catarina. Como sempre acontece, em torno da estação foi se formando o povoado de igual nome. Em homenagem a Olímpio Noronha ilustre filho do município de Cristina que se destacou por atos de bravura na Guerra do Paraguai. Em 27 de dezembro de 1948, foi elevado a distrito de Cristina.
