Zakonnicy budowali kaplice kalwaryjskie przez ponad 60 lat. Dziś jest ich 24. Wszystkie są utrzymane w duchu dość ascetycznego baroku. Wzniesienie przy drodze do Inowrocławia to Góra Oliwna, wzgórze Ludkowskie to Golgota (Kalwaria), a Noteć jest tu Cedronem.
Przypuszcza się, ze budowę kościoła rozpoczęto na przełomie XII i XIII wieku, w czasach gdy na Kujawach rządził Mieszko III Stary. Wiadomo, że kościół istniał już w 1311 roku. Nosi wezwanie św. Małgorzaty, popularnej patronki w okolicy.