Ponad źródłem, które według tradycji ma moc uzdrawiania, wytryskającym w głębokim jarze od strony wschodniej miasta, kilkadziesiąt metrów na północ od Bramy Grudziądzkiej, znajduje się kaplica nazywana Studzienką. O murowanej kaplicy ponad Cudownym Źródłem pisano już w połowie siedemnastego wieku. Najprawdopodobniej miała wtedy kształt przydrożnej kapliczki z niszą zamykaną kratą, prowadzącą do zdroju.

Gdy po pierwszym rozbiorze kult Matki Bożej Bolesnej zaczął przygasać, kaplica również popadała w ruinę. Już w tysiąc osiemset trzydziestym trzecim roku prowadzono kwestę z myślą o remoncie, a właściwe prace przeprowadzono dopiero w tysiąc osiemset czterdziestym dziewiątym roku.

W czasie drugiej wojny światowej kaplica została doszczętnie zniszczona na polecenie władz okupacyjnych. Po zakończeniu wojny przystąpiono do odbudowy: dwudziestego drugiego maja tysiąc dziewięćset czterdziestego piątego roku gotowy był plan nowej kaplicy. Inicjatorem był Jan Kawecki, który pragnął w ten sposób podziękować za łaski doznane w czasie wojny. Poświęcenie nowej, znacznie obszerniejszej kaplicy odbyło się szesnastego września tysiąc dziewięćset czterdziestego piątego roku.

Kaplicę wyposażono w ołtarz z wizerunkiem Piety stylizowanej na słynnej rzeźbie Michała Anioła. Gruntowny remont przeprowadzono w połowie lat dziewięćdziesiątych dwudziestego wieku.

W źródłach widać, jak mocno to miejsce budowały wota, intencje, pielgrzymki i odpusty, ale także cisza modlitwy: ludzie klęczący, powierzający Maryi sprawy trudne i bolesne. Szczególnym znakiem tej relacji jest barokowy ołtarz — obficie złocony — będący wielkim wotum ofiarnym.

W przekazie wspomniano wotum z tysiąc sześćset dziewięćdziesiątego dziewiątego roku — imponującą ramę dla Cudownego Obrazu, fundowaną przez starostę Mikołaja Marszewskiego. Wspomniano też antependium wyłożone plakietkami wotywnymi. Zachowały się wota od osiemnastego do dwudziestego wieku — około trzystu.

W źródłach pojawia się porównanie duchowego znaczenia: czym Czarna Madonna dla Korony Polskiej, czym Pani Ostrobramska dla Litwy, tym Pieta Chełmińska dla Prus Królewskich — dumnej części dawnej Rzeczypospolitej. Zwrócono uwagę, że poniżej Cudownego Obrazu widnieje herb Rzeczypospolitej Obojga Narodów.

Długą tradycję mają procesje eucharystyczne z fary do Studzienki w wigilię Nawiedzenia Najświętszej Maryi Panny — pierwszego lipca, w godzinach wieczornych. Po drugiej wojnie światowej stało się zwyczajem, że procesji przewodniczy biskup, a ze stopni kaplicy udzielane jest uroczyste błogosławieństwo licznie przybywającym pątnikom.

Następnego dnia — drugiego lipca — o poranku celebrowana jest w kaplicy Msza. Nocą z pierwszego na drugi lipca kultywowana jest procesja różańcowa. Nabożeństwa w dniu drugiego lipca odprawiane są w farze, na Bramce i w kaplicy zwanej Studzienką.

W źródłach przytoczono opisy tłumów pątników i liczby kazań oraz kapłanów. W dwudziestoleciu międzywojennym odpust opisywano jako żywy dowód wiary ludu polskiego, a w jednym z przekazów wspomniano udział około dwunastu tysięcy ludzi oraz wielu księży.

W źródłach podkreślono, że chełmińskie sanktuarium zyskało uznanie Stolicy Apostolskiej. W pierwszych dekadach osiemnastego wieku erygowano i zatwierdzono archikonfraternię Niepokalanego Poczęcia Najświętszej Maryi Panny, związaną z młodzieżą Akademii Chełmińskiej i kaplicą Matki Bożej Bolesnej.

Papież nadał także odpust zupełny dla czterdziestogodzinnego nabożeństwa rozpoczynającego się w uroczystość apostołów Piotra i Pawła, a kończącego się nieszporami we wigilię święta Nawiedzenia NMP. W połowie osiemnastego wieku wystawiono bullę zezwalającą na nałożenie na skronie Maryi koron papieskich, a uroczystej koronacji dokonano w roku tysiąc siedemset pięćdziesiątym czwartym. W źródłach zaznaczono, że był to pierwszy w Rzeczypospolitej wizerunek Matki Bożej Bolesnej koronowany koronami papieskimi.

Wspomniano również odpust zupełny „po wieczne czasy” nadany w końcu osiemnastego wieku na uroczystość Nawiedzenia. Zapisano także obchody jubileuszowe koronacji: dwusetną rocznicę w połowie dwudziestego wieku oraz uroczystości dwieście pięćdziesiątej rocznicy z udziałem Prymasa Polski.