Алексеевская женская гимназия открыта в 1874 в память о посещении города вел. кн. Алексеем Александровичем (1873). В 1890-х, после расширения, гимназия переведена в новое деревянное здание, где на втором этаже устроена домовая церковь (выделена главкой). В нач. XX в. для гимназии строится новое кирпичное здание по проекту арх. Э. И. Шеффера, с домовой церковью на втором этаже. Была приписана к Благовещенскому собору. После установления советской власти закрыта, в здании бывшей гимназии располагается средняя школа №4 им. М. Калинина.