Obok cmentarza parafialnego w Szydłowie, poza murami miejskimi, znajdują się ruiny dawnego kościoła pod wezwaniem Ducha Świętego oraz szpitala dla ubogich i starców. Kościół jednonawowy z zakrystią, późnogotycki, został zbudowany na początku XVI w. z kamienia. Na froncie dobudowano dwa skrzydła szpitalne.
Zespół ten po raz pierwszy wzmiankowany był w 1529 r. Szpital funkcjonował do XVIII w. Pisano, że przebywali w nim pensjonariusze w ilości od kilku do kilkunastu osób. Lustracja z 1789 r. wspomina już o kościele bez dachu, który od „ognia piorunowego” został zniszczony. Budynek jeszcze po II wojnie światowej służył za schronienie dla bezdomnych.