Šis neoklasicistinio stiliaus ansamblis iškilo 1820–1829 m., pro miestą nutiesus strateginį Peterburgo–Varšuvos plentą. Architekto Vaclovo Ritšelio suprojektuotą kompleksą sudaro trys pastatai: administracijos, arklidės ir smuklės pastatai. Šis 1829 m. pastatytas arklių pašto stoties kompleksas įtrauktas į Kultūros vertybių registrą ir saugomas kaip valstybės reikšmės paminklas. Pašto stotis mena ir iškilias Lietuvos asmenybes – būtent iš šios stoties ilgiems gyvenimo metams į Bulgariją išvyko tautos patriarchas Jonas Basanavičius.

Šiandien viename iš šio komplekso pastatų – buvusioje smuklėje – veikia Kalvarijos krašto muziejus/Informacijos centras, kuris kviečia pažinti krašto praeitį ir prisiliesti istorijos. Po restauracijos šiame pastate įrengta muziejaus ekspozicija išsamiai pristato turtingą miesto ir krašto istoriją: miesto priklausomybę Prūsijai, carinės Rusijos okupacijos laikotarpį, Sūduvos knygnešių judėjimą, abu pasaulinius karus bei tarpukario suklestėjimą ir šiandieną. Viena iš čia veikiančių nuolatinių ekspozicijų pasakoja Kalvarijos žydų bendruomenės istoriją. Šios temos giliau atskleidžiamos per ekskursijas ir edukacines programas, o savarankišką pažintį palengvina modernus audiogidas su viktorinomis.