Parafia pw. św. Antoniego erygowana przez 25.12.1980 r. przez Biskupa płockiego Bogdana Sikorskiego. Bullą „Totus Tuus Poloniae Populus” Papieża Jana Pawła II z 25.03.1992 r. parafia Olszewka została włączona do Diecezji łomżyńskiej z Diecezji płockiej.
Pierwotnie wieś Olszewka należała do parafii Chorzele; od 1.10.1918 r. została włączona przez bł. abpa A.J. Nowowiejskiego do parafii Parciaki. Wkrótce mieszkańcy zbudowali kościół pw. Najświętszego Serca Jezusowego, który został 31.07.1922 r. pobłogosławiony przez bł. abpa A.J. Nowowiejskiego. Obowiązki duszpasterskie pełnił w nim ksiądz z Parciak. Od 16.07.1959 r. w Olszewce zamieszkał ksiądz na stałe.
Plebania murowana, wybudowana w 1937 r. staraniem ks. Juliana Przygódzkiego, proboszcza w Parciakach.
Liczba wiernych: 475