Музей существует в городе с дореволюционных времен. В советское время он размещался в Христовоздвиженском соборе, в новое время он переместился в Дом политпросвещения на улице Ленина. Богата его художественная коллекция, в которой можно увидеть работы Ф. А. Васильева, И.К. Айвазовского, А. М. Васнецова, К. Ф. Юона, А. В. Маковского, Л. О. Пастернака, а также иконы и часть церковной утвари из разрушенной Троицкой церкви.