Urodził się w Warszawie 27 listopada 1897 r. w rodzinie głęboko religijnej i patriotycznej. Wzrastał w cieniu legendy swego dziadka Ludwika Ablewicza, powstańca z 1863 r. i sybiraka. Gdy po śmierci ojca matka wróciła do rodzinnego Nowego Miasta nad Pilicą, Józef znalazł się tam pod wpływem wychowawczym ojców kapucynów. O. Feliks Sadowski był jednym ze spowiedników przywódców powstania styczniowego, straconych przez Rosjan na stokach Cytadeli. On to „w zaciszu zakonnego ogrodu wtajemniczał chłopca w wielkie misterium szubienicy na Stoku: Pamiętaj, to byli święci ludzie, mój chłopcze. Zapamiętałem” — wspomina ks. Józef. Walkę o wolną Polskę rozpoczął mając 13 lat, kiedy to w szkole na urągliwe powiedzenie rosyjskiego nauczyciela zawołał: „Polska była, jest i będzie!” Został usunięty ze szkoły z „wilczym biletem”“. Przeszedł przez granicę zaboru austriackiego i uczył się u salezjanów w Oświęcimiu.

W 1917 r. wstąpił do Zgromadzenia Księży Marianów, a sześć lat później został kapłanem. Po roku studiów na KUL-u i rocznym pobycie w Zakopanem z powodu gruźlicy płuc w 1925 r. rozpoczął pracę wychowawcy, z którą zostanie już związany do końca życia. Do wybuchu wojny we wrześniu 1939 r. był wychowawcą w Kolegium na Bielanach w Warszawie. W latach 1943-1950 wychowywał polskie dzieci i młodzież, uratowaną z Syberii, w Santa Rosa i Tlalpan w Meksyku, a wreszcie od 1950 r. aż do śmierci w 1964 r. w Hereford i Fawley Court w Anglii. Urabiał młodzież według zasad obowiązujących w Kolegium bielańskim w Instrukcji dla wychowawców, w której były takie stwierdzenia: „O tyle będziemy zakładem wychowawczym, o ile będzie w nim atmosfera dobrej, polskiej kulturalnej rodziny katolickiej, w której współżycie oparte jest na głębokim wzajemnym zaufaniu i miłości. Nie może to być frazesem, trzeba to umieć zrobić, musi to być rzeczywistością”. A w Regulaminie dla wychowawców powiedziano: „Najwyższym ideałem wychowawczym jest Jezus Chrystus. Trzeba więc przede wszystkim żyć Chrystusem, duchem Jego Ewangelii, Jego Eucharystią, Jego Kościołem”.

Ks. Jarzębowski wychowywał całą swoją osobowością. Był ze swoimi wychowankami przez cały dzień, jak w rodzinie. Uczył kochać Boga nie tylko na lekcjach religii, ale swoim osobistym życiem, swoim postępowaniem, traktowaniem każdego chłopca indywidualnie. Było to oddziaływanie miłością i dobrocią, „metodą zapobiegania złu”, według zasady św. Jana Bosko. Oddziaływał też na całą klasę przez wybranych chłopców.

Ks. Józef nie „odpoczywał od chłopców” nawet podczas wakacji. Także i wówczas jeździł z nimi na wycieczki czy obozy. Wędrowanie z ks. Józefem było dla chłopców bardzo cenne zarówno pod względem duchowym, jak i kulturalnym i krajoznawczym. Osobowość ks. Józefa była pełna ciepła i dobroci, z czego wypływało pewne przekonanie o jego wewnętrznej życzliwości względem wychowanka. Oddziaływał na każdego z osobna i nikt nie czuł się odsunięty na bok. Zasadą jego pedagogii była rozmowa i łagodna perswazja. Budził szacunek, wynikający z wewnętrznej wartości osobistej. Było to wychowanie do ideału osobowego, który sam reprezentował. Najpierwszym ideałem był sam Chrystus, do którego ks. Józef dążył zdecydowanie od dzieciństwa. Wskazywał jednak także na ludzkie ideały, czy to religijne, czy patriotyczne. Głównym z nich był Romuald Traugutt.

Nieostatni środek oddziaływania wychowawczego stanowił dla ks. Jarzębowskiego konfesjonał. W swoim Dzienniku zanotował: „Zdaje mi się, że kocham więcej tych chłopców, którzy się u mnie spowiadają. Wzrusza mnie ten objaw zaufania, kiedy własną nędzę składają Bogu przeze mnie. A poza tym jeszcze i łaska Pana Jezusa spływa znów na nich przeze mnie i w ostateczności łączymy się w Najświętszym Jego Sercu. Dlatego lubię ich spowiadać, bo się sobie wzajemnie oddajemy”. Ks. Józef pragnie wszczepić w chłopców ducha modlitwy, do której gorąco zachęca, ale nigdy nie zmusza, nie wywiera nacisku.

I jeszcze jeden zapis z Dziennika: „Po Drodze Krzyżowej daję do ucałowania drzewo Krzyża św. Śpiewamy Krzyżu Święty, a chłopcy kolejno idą i całują podawany relikwiarz, po czym wychodzą. Śpiew powoli cichnie i gaśnie z ostatnimi, którzy całują relikwie. Bardzo mnie to rozrzewnia”.

Innym ideowym założeniem wychowawczym ks. Józefa był patriotyzm, umiłowanie ojczyzny. Swoich chłopców wychowywał na przeszłości Polski, na historii. Zapoznawał z dziejami kraju, wskazując na wybitne, ideowe jednostki, które stawiał za wzór do naśladowania. Były to wzory zarówno od strony religijnej, jak i narodowej. Traugutta uważał nie tylko za bohatera narodowego, ale i za świętego. W swoich książkach przedstawiał go zarówno swoim wychowankom, jak i całemu społeczeństwu polskiemu jako kandydata na ołtarze.

Bielany ze swoim zabytkowym, pięknym barokowym kościołem i pokamedulskim eremem oraz grobem Staszica stawały się „relikwiarzem Warszawy”, ośrodkiem polskiej kultury. Uczył chłopców nie tylko cenić zabytki kultury, ale troszczyć się o ich zachowanie, a także je pomnażać.

Środkiem wychowawczym były także dzieła sztuki i literatura. Ks. Józef opracowywał obrazki sceniczne. Na spotkaniach założonego przez siebie kółka literackiego czytał własne poezje, wychowując młodych pisarzy i poetów, jak Tadeusz Kordyasz i Tadeusz Gajcy.

Kiedy ks. Józef rozpoczął pracę na Bielanach, od początku gromadził przedmioty mające znaczenie historyczne. Miał wielki talent kolekcjonerski. Jednakże nie zbierał po to, aby chować te zabytki tylko dla siebie, przeciwnie — aby je pokazywać innym, najpierw wychowankom, ale także szerszym kręgom osób. Urządzał wystawy, zwłaszcza na Zielone Świątki, kiedy warszawiacy licznie udawali się na Bielany. Zgromadził wszystko, co napisano o powstaniu styczniowym. Odszukał i zebrał liczne przedmioty używane przez Romualda Traugutta i innych powstańców. W kaplicy jednego z domków pokamedulskich umieścił trumienkę z domniemanymi prochami dyktatora i pozostałych straconych z nim przywódców powstania. Zgromadził wiele autografów królewskich, jak też innych sławnych Polaków. Były też w jego zbiorach książki o wyjątkowym znaczeniu historycznym. Organizował spotkania młodzieży z ludźmi związanymi z dziejami kraju. Domki odrestaurował i urządził po dawnemu, przez co same były już cennym zabytkiem.

W momencie wybuchu wojny 1 września 1939 r. muzeum historyczne ks. Jarzębowskiego na Bielanach mieściło się w dwóch domkach pokamedulskich i we wschodnim skrzydle klasztoru. Już w pierwszych dniach wojny ks. Józef starał się zabezpieczyć eksponaty muzealne i przekazywał je różnym osobom na przechowanie. Opuszczając Bielany 6 września zabrał ze sobą sporo przedmiotów muzealnych, które w popłochu zostawiał w miejscach postoju: w klasztorze mariańskim w Skórcu, potem w Raśnie, a wreszcie, uchodząc już przed bolszewikami w kierunku Litwy, na plebanii w Różanej. Część tych przedmiotów ocalała, niektóre przepadły bezpowrotnie.

Kiedy po cudownym wydostaniu się spod panowania bolszewików w marcu i kwietniu 1941 r. przebywał w Japonii, natychmiast zaczął gromadzić eksponaty do bielańskiego muzeum. Gdy w połowie maja wychodził na ląd amerykański w Seattle, to już miał kłopot z celnikiem o trzy skrzynie „Japońszczyzny”, zbierane — jak myślał — dla Bielan. W tych skrzyniach były także i polonica, które odtąd zbierał skrzętnie i z powodzeniem na szerokim świecie. Najpierw w Meksyku i Stanach Zjednoczonych, a od 1950 r. w Europie.

Od jesieni 1953 r. ks. Józef zaczął restaurować pałac w Fawley Court, gdzie otworzył Kolegium Bożego Miłosierdzia dla polskich chłopców. Ponieważ nie było nadziei na powrót do Polski i odzyskanie Bielan, ks. Jarzębowski z posiadanych eksponatów otworzył muzeum przy nowej szkole. Gdy sytuacja w kraju jakoś się ustaliła, wykorzystał wszelkie okazje, aby sprowadzić z Polski do Anglii możliwie wszystko, co ocalało z muzeum bielańskiego. Wywożono te przedmioty drogą legalną, uzyskując pozwolenia odnośnych urzędów. W taki sposób zostały przewiezione do Anglii niemal wszystkie pamiątki po Traugucie i dotyczące powstania styczniowego. Tą samą drogą znalazł się w Fawley Court sztandar Kolegium bielańskiego i proporczyk bielańskiej drużyny harcerskiej, a także obrazy, niektóre o kilkumetrowych rozmiarach. To wszystko było możliwe dzięki paniom dyrektorkom urzędów, których zadaniem było strzec przed zniszczeniem i kradzieżą zabytkowych dzieł sztuki i kultury polskiej.

Ks. Jarzębowski cieszył się za każdym razem, kiedy przywieziono z Polski coś z jego dawnego bielańskiego muzeum. Sam też z każdej podróży coś przywoził. Każdy przywieziony do muzeum eksponat pokazywał chłopcom, objaśniał jego znaczenie i wartość historyczną, improwizował nawet w takich okazjach swego rodzaju uroczystość. Swoim przykładem ks. Józef pociągał też pracowników Kolegium i swoich współbraci, którzy także ubogacali muzeum własnymi nabytkami.

Na Bielanach w Warszawie ks. Jarzębowski urządził muzeum w XVIII-wiecznych domkach pokamedulskich, które w tym celu odrestaurował. Zaś w Fawley Court znalazł sytuację o wiele bardziej jego celom odpowiadającą. Bowiem dolne pomieszczenia pałacu pochodzą z przełomu XII—XIII w. i mają autentyczne romańskie sklepienia, zaś górny pałac powstał w XVII w. i jest dziełem znanego architekta Krzysztofa Wrena oraz innych artystów. Wnętrze pałacu posiada artystyczne, zabytkowe sufity, kamienne odrzwia i kominki. Zachowało się też nieco zabytkowych mebli. Także samo otoczenie parkowe, wspaniałe drzewa i brzeg Tamizy podnoszą znaczenie tego miejsca.

Muzeum posiada wiele cennych obrazów. Niekiedy są to oryginalne dzieła znanych artystów lub dobre kopie. Dotyczą one przede wszystkim dziejów Polski. Są to portrety osób, od królów poczynając, a na samym ks. Józefie kończąc. Są też obrazy o treści religijnej, także biblijnej. Są obrazy wykonane w łagrach. Znajdujemy też liczne rzeźby, od fragmentów ołtarza pergamońskiego poczynając, poprzez Grecję i Rzym.

W muzeum znajduje się kilka ołtarzyków polowych z czasu II wojny światowej. Jedne z nich są malowane, inne rzeźbione, z zachowaną ich historią frontową. Jest też zbiór starych angielskich map Europy i Polski. Najstarsze z nich zostały wykonane w 1626 r. Są też bulle papieskie. Niektóre z autentycznymi, wyciskanymi pieczęciami w metalowych puszkach. Najstarsze z nich zostały wydane przez papieża Juliusza II w 1504 r.

Bogata jest kolekcja dokumentów z autografami królów polskich, biskupów, sławnych wodzów, pisarzy i innych.

Są najstarsze Biblie: pierwsza drukowana w języku polskim, kalwińska, Biblia Radziwiłłowska z 1563 r., Biblia luterańska, bogato ilustrowana pięknymi rycinami, oraz katolicka Biblia Leopolity z 1575 r. Jest też Statut Laskiego, wydany w drukarni Hallera w Krakowie w 1506 r. Z tej racji gen. J. Haller wpisał do niego dedykację. Dzieło ofiarował ks. Jarzębowskiemu bielańczyk, który uratował je od spalenia w Niemczech. Są także inkunabuły. Najstarszy z nich to Eccastica Jerarchia Dionizego Areopagity z 1465 r.

W zbiorze muzealnym dotyczącym powstania styczniowego jest ponad 600 druków w ośmiu językach, cztery akwarele Artura Grottgera i wreszcie pamiątki po Traugutcie, z których chyba najcenniejszy jest Dzienniczek dyktatora powstania, podarowany ks. Józefowi przez Annę Trauguttównę, oraz jedna akwarela przypisywana Trauguttowi.

W Komnacie Rycerskiej, urządzonej w dużej sali autentycznie romańskiej, wspartej na kolumnie, pochodzącej z XII w., został umieszczony bogaty zbiór zbroi polskiej poczynając od XV w. Są tu zebrane przedmioty będące rzadkością w muzeach całej Europy. Zbiór został podarowany w 1966 r. przez majora Witolda Buchowskiego. Oprócz wielu szabli kolekcja obejmuje także inne rodzaje broni oraz pasy szlacheckie, szkaplerze, ryngrafy, ikony miniatury, a także mapy Korony i Litwy z XVI i XVII w.

Muzeum posiada dużą kolekcję białej broni, podarowaną przez Z. S. Lenkiewicza w 1987 r.

Są pamiątki z ostatniej wojny, w tym kilka hełmów. Są też egzotyczne eksponaty z Japonii i Meksyku. Jest nieco dzienników i pamiętników pisanych ręcznie.

Na zakończenie dodać należy, że z muzeum w Fawley Court jest złączona biblioteka, która liczy około 20 tys. woluminów, w znacznej mierze dzieł rzadkich, o dużej wartości.

W 1993 r. zostało uporządkowane Archiwum Księdza Józefa Jarzębowskiego, zawierające m. in. bogatą korespondencję z różnymi osobami, także powszechnie znanymi. Wymaga ono jednak dalszego, szczegółowego segregowania.