Beograd se kao biskupija pominje još u IV veku, kada su na teritoriji Srbije postojale i biskupije: Semendrija (Smederevo), Viminacijum (Kostolac), Naissus (Niš), Ramesijana (Bela Palanka), koje su spadale pod jurisdikciju Sirmijumske mitropolije (Sremska Mitrovica). Pod Sirmijumsku mitropoliju u to vreme potpadale su i provincije: Panonija, Dalmacija, Mezija (današnje Srbija i Bugarska), Dakija (današnja Crna Gora), Dardanija i Prevaltanija (današnje Kosovo i Metohija i Makedonija) i Makedonija (današnja severna Grčka).
U V stoleću, zbog provale varvarskih plemena, administrativno i crkveno sedište prefekture Ilirika, koju su činile pomenute provincije, preneto je iz Sirmijuma u Solun. Početkom VII veka, Solun je bio i papski vikarijat. U crkvenom pogledu ova prefektura potpadala je pod jurisdikciju Rima sve do sredine VIII stoleća.
Navalom Slovena i Avara u VII veku, na Balkanu je bila uništena kako vizantijska upravna, tako i crkvena vlast.
Tokom VIII i IX stoleća, među Slovenima su delovali rimski i vizantijski misionari. U to vreme dolazi do pokrštavanja Srba i Bugara od strane Carigradske patrijaršije. Između VII i XII veka, za Balkan će ratovati Vizantija, Bugarska i Ugarska. U Vatikanskom arhivu nailazi se na podatak o postojanju Beogradske biskupije za vreme vladavine Bugara nad Beogradom u X stoleću. Posle Velikog raskola 1054. godine, naporedo postoje katolička biskupija i pravoslavna episkopija, koja je bila pod jurisdikcijom Ohridske arhiepiskopije.
Od kraja XII veka, Beogradska biskupija nalazila se pod jurisdikcijom kaločkog nadbiskupa. Kaloča je bila centar crkvene uprave u Ugarskoj.
Do XV stoleća teritorija Biskupije obuhvatala je: Mačvu u kojoj je postojalo više župa, Beograd, Smederevo i Golubac.
U šematizmu Beogradske nadbiskupije iz 1935. godine vidi se da su vremenski razmaci stolovanja biskupa u periodu od IV do XVII veka bili veliki. Ako uzmemo u obzir da je u srednjem veku Beograd često bio razaran, možemo zaključiti da su se biskupi u nesigurno vreme povlačili u Ugarsku i odatle vršili svoju funkciju, tako da ih možemo nazvati titularnim biskupima.
U srednjovekovnoj srpskoj državi postojale su brojne rimokatoličke župe. Valjevo, Crnča, Plana, Kovači, Livađa, Zaplanje, Koporići, Ostraće, Belasica, Brvenik, Gradac, Rogozno, Novi Pazar, Pljevlja, Prokuplje, Brskovo, Rudnik, Novo Brdo, Janjevo, Priština, Trepča, Prizren, Peć i Skoplje – bili su rudarska i trgovačka mesta u kojima su živeli saski rudari, dubrovački, dalmatinski, venecijanski i drugi italijanski trgovci.
Jurisdikciju nad katoličkim življem u Srbiji vršio je barski nadbiskup, koji je nosio titulu »primas Srbije«. U XV veku ova titula pripadala je kotorskom biskupu, a u vreme turske vladavine preuzeo ju je dubrovački biskup. I danas je »primas Srbije« deo titulature barskog nadbiskupa.
U XV i XVI stoleću nailazimo na izvore koji govore da su u Beogradu postojale dve crkve i jedan franjevački samostan. Za vreme turske vladavine, kao i u drugim delovima »turske Evrope« biskupije nisu zvanično ukidane, ali biskupi nisu delovali u svojoj matičnoj biskupiji već u susednoj Ugarskoj, a kasnije u Habzburškoj monarhiji. Umesto biskupa pastirsku dužnost vršili su apostolski administratori.
Za vreme austrijske vladavine nad današnjom užom Srbijom – od 1687. do 1699. i od 1718. do 1739. godine – ponovo je uspostavljena Beogradska biskupija, koja je između 1720. i 1739. nosila naslov Beogradsko-smederevska biskupija.
Počev od 1739. postoje samo titularni biskupi i apostolski administratori i takvo stanje traje sve do 1924. godine.
Godine 1851. papa Pio IX postavio je đakovačkog biskupa Josipa Jurja Štrosmajera za apostolskog vikara za celu Kneževinu, odnosno Kraljevinu Srbiju, u kojoj je živelo 10.000 katolika. Međutim, došlo je do sukoba između Štrosmajera i austrougarskih vlasti oko postavljanja sveštenika i gradnje crkava. S razvitkom ekonomskih veza između Srbije i Austro-Ugarske i gradnjom železnice Beograd–Niš–Vranje, osamdesetih godina XIX veka u Srbiju dolaze stručnjaci i radnici katoličke veroispovesti, mahom Nemci, Francuzi i Italijani. Godine 1883. Štrosmajer je u Srbiju poslao oca Tondinija koji je delovao u Kragujevcu, gde je bilo 600 katolika zaposlenih u kragujevačkoj fabrici. Pored o. Tondinija, pastirsku dužnost obavljao je i o. Marbo. Sledeće godine, dakle 1884, Tondini je blagoslovio kapelu u Nišu, koji je nastanjivalo preko 1000 katolika, a 1885. u istom gradu otvorio je i katoličku crkvu. Na takvo delovanje sveštenika srpske vlasti gledale su blagonaklono, a dokaz za to su upravo izveštaji sveštenika koji nam govore o njihovoj predusretljivosti kao i predusretljivosti kralja Milana.
Pored pastoralnog delovanja, o. Tondini je pripremao teren i za sklapanje konkordata između Srbije i Svete stolice. Međutim, tome se protivila Austro-Ugarska jer je htela da Srbija i u crkvenom pogledu zavisi od nje. Na zahtev Austro-Ugarske Tondini odlazi iz Srbije.
U Kraljevini Srbiji u to vreme postojale su tri župe: Beograd, Niš i Kragujevac. Prva crkva izgrađena je u Nišu 1887. g. U Beogradu je u to vreme živelo preko 5000 katolika, a postojala je samo jedna kapelica, i to u zgradi austrougarskog poslanstva.
Godine 1914. između Kraljevine Srbije i Svete stolice sklopljen je Konkordat kojim je ustanovljena Beogradska nadbiskupija. Pod jurisidciju Nadbiskupije potpadala je i sufraganska Skopska biskupija. Prvi nadbiskup, Rafael Rodić, došao je na službu 1924. godine.
Nakon Rafaela Rodića, Beogradsku nadbiskupiju vodili su: Josip Ujčić (1936–1964), Gabrijel Bukatko (1964–1980), Alojzije Turk (1980–1986), Franc Perko (1986–2001) i sadašnji nadbiskup Stanislav Hočevar, koji je za beogradskog nadbiskupa imenovan 31. III 2001. godine.
Površina današnje nadbiskupije iznosi oko 50.000 km2 i obuhvata celu Srbiju bez Vojvodine i Sanžaka, a broji oko 40.000 vernika.
Papa Ivan Pavao II formirao je 1986. godine Beogradsku metropoliju, kojoj pripadaju i Subotička i Zrenjaninska biskupija.
Godine 1997. formirana je Biskupska konferencija Jugoslavije, u kojoj je šest biskupa: zrenjaninski, subotički, barski, kotorski, prizrenski apostolski administrator i beogradski, koji je ujedno i predsednik BK.
Biskupska konferencija u današnjem obliku obrazovana je 2001. g. kao Međunarodna biskupska konferencija svetih Ćirila i Metodija i sačinjavaju je biskupije Srbije, Crne Gore i Makedonije.
Nadbiskupija je podeljena na 16 župa: šest župa u Beogradu, uz župe u Valjevu, Šapcu, Boru, Zaječaru, Nišu, Kraljevu, Kragujevcu, Kruševcu, Smederevu i Ravnoj Reci. U okviru kragujevačke župe nalazi se kapelica u Kruševcu, a u okviru Ravne Reke kapelice u Užicu i Vrnjačkoj Banji.
Pored dijecezanskih sveštenika, u Beogradskoj nadbiskupiji deluju i redovnici sledećih redovničkih zajednica: franjevci Provincije Bosne Srebrene, lazaristi Slovenačke provincije, isusovci Hrvatske provincije i salezijanci Slovenačke provincije. Tu su i redovnice: milosrdnice, usmiljenke, Isusove male sestre i zajednica sestara službenica Bezgrešne Device Marije.
Deluju i dva laička pokreta: Pokret fokolara i Neokatekumenski put.