Detendo o privilégio de ser o primeiro do Brasil, o Seminário São José foi fundado em cinco de setembro de 1739, pelo bispo D. Antonio de Guadalupe. Inicialmente localizado na encosta do então Morro do Castelo (fundos da atual Biblioteca Nacional e da Justiça Federal), ali permaneceu por cento e sessenta e oito anos, transferindo-se para o Rio Comprido, pouco tempo antes da elevação da Diocese do Rio de Janeiro a Arquidiocese.


Nessa época, o Seminário foi transferido para a Ilha de Paquetá, onde funcionou até 1931, voltando então ao Rio Comprido a partir de 1932, quando os irmãos Maristas devolveram as instalações, que estavam alugadas, onde permanece até hoje.


Em virtude de grandes dificuldades, em 1907, o então Cardeal D. Joaquim Arcoverde, decidiu fechar o Seminário, sendo reaberto dezessete anos depois (1924), pelo Arcebispo D. Sebastião Leme.


Em 1985, com o objetivo de oferecer mais conforto ao número sempre crescente de vocacionados, foi inaugurado o prédio anexo, onde funcionam as Faculdades de Filosofia e Teologia.


Desde sua fundação até os dias atuais, o Seminário São José vem prestando serviços à coletividade e, em especial, ao "Povo de Deus", no firme propósito de formar bons e santos sacerdotes.