Первый храм Успения Пресвятой Богородицы, был выстроен «ратными» людьми в 1657 г. при первом харьковском воеводе Воине Селифонтове из «нового красного леса». Он был небольшим, однопрестольным холодным, «меж углы четыре сажень» – т.е. размер среднего помещения храма был 6,11´6,11 м. Собор стоял примерно в 60 м к югу от существующего. В 1659–1663 гг. царским пожалованием в храм были даны: престольный образ Успения Богоматери шестилистовой с двумя серебряными позлащенными венцами, благословенный крест, царские двери со столбцами, четыре богослужебные книги, напрестольное Евангелие. В пожар 1666 г. сгорела колокольня собора с церковной утварью и книгами. Впоследствии, при ремонте храм был расширен и стал кресчатым, получив пристройки с севера юга и запада.

«В 1685–1687 годы внутри крепости, саженей на 25 к северу от деревянного Успенского собора, построен каменный, крестообразный собор с пятью главами, наказным полковником Авдием Григорьевичем (Донцом) и освящен в 1686 г. с соборянами митрополитом Авраамием». Старый деревянный собор разобрали, а на месте одного из престолов этого храма была построена деревянная часовня. Она стояла в конце XVIII ст. за каменным зданием Магистрата и нечетко видна на панораме Харькова 1787 г. с Западной стороны.

Из Описи Успенского собора 1724 года мы видим, что идею постройки нового храма кроме полковника Харьковского поддерживали и тогдашний протопоп собора Петр Андреевич с соборянами. Средства были собраны при помощи пособия от правительства. Пять глав собора были покрыты дубовым гонтом. Примерно в 40 м от западного фасада храма по его продольной оси стояла массивная каменная колокольня с двумя коморами и погребом.

По плану 1760 г., имеющему линейный масштаб, храм представлял собой прямоугольный объем размером 18´21,5 м, с востока примыкал массивный слаборасчлененный алтарь общей длиной около 9 м. По центру каждого из фасадов располагались три притвора-крыльца разного размера, что предполагает их различное архитектурное оформление. То же самое схематически показано на плане Харькова И. Радзевусова 1742 г. Поскольку других крестовокупольных храмов на территории слобожанских полков в 1724 г. не существовало и к центральному башенному объему собора с четырех сторон примыкали пониженные пристройки, храм в описи вполне могли назвать «кресчатым», вкладывая в это понятие совсем другой смысл, чем в имеющийся сейчас архитектурный термин.

Изображения же шатровой колокольни, хоть и плохого качества, сохранились. Они относятся к периоду между 1787 и 1803 годами и позволяют представить её во всех деталях. Колокольня имела размер в плане 15,2´13 м и высоту более 50 м до основания завершения. Она стояла на подклете высотой примерно 1,5 м, в котором располагались обширные подвалы и 3 выхода в подземные помещения и хода. Один из ходов вел за реку Лопань и заканчивался в районе деревянной Благовещенской церкви. Первый ярус колокольни был окружен глухой аркадой с глубиной арок около одного метра. Его окна украшали наличники полностью аналогичные по рисунку восточному алтарному окну Покровского храма – фронтон завершался четырьмя арочками, разорванными посередине обелиском на постаменте. Открытая каменная галерея с широкими приземистыми арками обходила второй ярус башни. В ее декоре мы видим многорядный фриз из зубчатки и поребрика и пояс квадратных ширинок. Реконструируемая ширина обхода галереи около 90 см. Все эти детали через два года будут повторены в Харьковском Покровском храме. Из-за того, что размер западной и восточной граней восьмигранного верха был больше остальных, в звоновом ярусе в них было по два проема-арки – а всего десять. Северо-западный угол восьмигранного верха был прямоугольным на значительную высоту. Скорее всего, этот выступ предназначался для механизма башенных часов с двумя циферблатами (упоминаний о часах архивы не сохранили).

Главка шатра колокольни имела «смотровые окна» во все стороны – башня служила главным наблюдательным пунктом крепости. Возможно в ее подвалах первоначально хранился пороховой запас, а в обширном помещении первого яруса площадью более 100 м² разместилась приказная палата. До постройки колокольни Киево-Печерской Лавры в 1743 г. это было самое крупное подобное сооружение на Левобережье, ставшее образцом для ряда шатровых колоколен, возводившихся на Слободской Украине в первой половине XVIII ст.

Во время пожара 1733 г. храм сильно пострадал, все его деревянные части и внутреннее убранство погибли. Однако уже на следующий год главы собора были покрыты белым английским железом, восстановлена глава колокольни, позолочены кресты. Из-за образовавшихся в стенах трещин первый каменный храм города был разобран в 1770 году, древняя колокольня продолжала существовать до 1819 г.

Рядом с Успенским собором существовало собственное кладбище, которое в прошлом занимало чуть ли не половину первой харьковской крепости, вот что писали старожилы собора в 1803 году: «при прежнем старом каменном соборе место оградное, обнесенное деревянным забором, гораздо больше против нынешнего было даже до проезжих старых дорог и на нём в ограде с давних времён погребали умерших тела, а как соборная церковь вновь перестроена, то означенное оградное место в рассуждении планировки города умалилось не по чему иному, как по недостатку в тогдашнее время на построение обширной ограды церковного капитала, однако те вышедшие в округ из прежней…деревянной ограды места и ныне есть точно церковные, никому не принадлежащие».

На этом кладбище был похоронен сотник, а позднее наказной полковник и полковой судья Харьковского казачьего полка Семён Афанасьевич Квитка, родоначальник рода Квиток, он родился в Умани и умер в возрасте 80 лет. А в 1751 г. здесь же был похоронен его внук – Иван Григорьевич Квитка, полковник Изюмского казачьего полка. В 1880-е годы над могилами Квиток была возведена каменная часовня во имя Николая Чудотворца, которая до наших дней не сохранилась.

В 1770 г. соборный приход начал строительство нового храма, который был освящен 25 апреля 1778 г. Однако устройство придельных храмов внутри собора и иконостасов продолжалось до 8 июня 1783 года, когда был освящен последний – пятый престол апостолов Петра и Павла. Вновь построенный Успенский собор является более поздним аналогом церкви Св. Климента в Москве, предполагается, что оба храма воздвигнуты по проекту архитекторов Евлашова и Ухтомского. Главный соборный иконостас был исполнен по рисунку архитектора Растрелли в 1776 году и являлся предметом восхищения всех прибывающих в Харьков гостей. 

Это единственное в Харькове здание, в котором пребывали в разное время, практически все императрицы и императоры начиная с Екатерины Великой, губернаторы и генерал-губернаторы, архипастыри и все местное дворянство и купечество. 

Ещё в 1779 г. Успенский собор был обнесен деревянной оградой, а в 1791 г. она была заменена каменной, на восточной стороне которой было устроено восемь каменных лавок, приносивших собору ежегодно значительный доход (до 1400 рублей).

Когда устроена была вокруг собора каменная ограда, всем стала бросаться в глаза старая, неприглядная, построенная без участия архитектурного искусства колокольня, стоявшая однако же на открытой площади и как раз посреди проезда от архиерейского дома к дворцу или теперешнему университету. 13 февраля 1819 г. Харьковского Успенского собора протоиерей Андрей Прокопович с прихожанами и церковным старостой купцом Семёном Мухиным, устроил в своём доме особое заседание, обратил внимание на то, что старая соборная колокольня, уцелевшая от пожара, почти истребившего первый каменный соборный храм, занимала немалую часть места, назначенного, по Высочайше утверждённому для города Харькова плана, под большую проезжую дорогу и что своей древней архитектурой она совершенно не соответствовала зданию соборного храма, что в верхнем ярусе она уже значительно повреждена и имеет трещины. Все присутствовавшие на собрании соборные прихожане единодушно решили разобрать старую колокольню до основания, построить вместо неё новую каменную по проекту профессора архитектуры Императорского Харьковского университета Евгения Васильева. Также решили в колокольне устроить тёплый храм во имя св. Благоверного великого князя Александра Невского. На устройство этой колокольни, кроме 10 тысяч рублей пожертвованных изначально купчихой Прасковьей Тамбовцевой, прихожане пожертвовали в тот же день 25 тысяч рублей.

Строительство колокольни было начато в 1821 г. и завершено полностью в 1845 г. На строительство было употреблено более 110 000 руб. серебром.

В апреле месяце 1819 года старая соборная колокольня была разобрана до самого грунта. Вместо неё внутри церковной ограды была устроена временная на столбах. Составленные план и фасад новой колокольни надворным советником Евгением Васильевым обошлись собору в 1000 руб. его же пригласили для постоянного наблюдения за производством работ с ежегодным вознаграждением до окончания колокольни также по 1000 руб. А для ежедневного надзора за строительным материалом, рабочими и точным выполнением всех архитекторских распоряжений был приглашён однодворец сл. Чужовки Воронежской губернии Иван Васильевич Сидельников, с ежегодным вознаграждением по 250 рублей.

Проект был составлен в июне 1819 года и одобрен прихожанами и его передали харьковскому губернатору В. Г. Муратову. И с этого то времени начались совершенно неожиданные для постройки затруднения. Губернатор сам не решился утвердить ни плана, ни фасада будущей соборной колокольни «по причине великой колоссальности здания» и препроводил их для рассмотрения в Санкт-Петербург к управлявшему министерством полиции, графу Вязмитинову. Этот передал их академику Стасову, который по Высочайшему повелению рассматривал тогда все планы, доставляемые в министерство полиции. Стасов продержал у себя план и фасад соборной колокольни до 9 августа 1819 года, а потом дал заключение, «…что колокольня, в рассуждении крепости, по тем планам с некоторыми прибавками может быть построена, хотя для точного заключения и нужно было бы наперёд знать точные разрезы, чтобы видеть углубления фундаментов, конструкции сводов, лестниц и проч.; но как прожект сделан профессором, по удостоверению губернатора, опытным в архитектуре, то Стасов предполагал, что ему известны все средства и способы, употребляемые в подобных зданиях. Что касается расположения плана и вообще изящества и красоты здания, то, по заключению академика Стасова, всякий профессор делает свой прожект, применяясь к местному положению и внушению своего гения вкуса, а как они у всех различны до бесконечности, то и трудно в этом отношении сделать какое – либо заключение; впрочем, если нужно высказать о них суждение по общим правилам искусства, изобретённым нуждами и вкусом и утверждённым всеми народами и веками, то и в проекте харьковской колокольни Стасов находил, 1) что столь высокое здание не должно быть столь близко к другому (т. е. к зданию собора, может быть, даже громадному); 2) что допущенные пристройки по своей малости не соответствуют характеру всего здания; 3) что части, составляющие здание, не извлечены из массы целого, а потому и не гармонируют с ним и, наконец, 4) что всё здание не представляет единства (ensamble), но – разнородный характер – приятных линий, но – прерванных, - огромных масс, но – в них только куски, один над другим возвышающиеся и раздробленные мелочами, без малейшего отдыха. Впрочем, сказав в заключении о том, что гораздо легче критиковать, чем самому делать прожект, Стасов отдаёт честь Васильеву за то, что в фасаде бока нижней части колокольни раскрашены им с особенным искусством и вниманием, хотя тени от колон наложены совсем неправильно».

13 октября 1819 года эти замечания академика Стасова были переданы губернатором Муратовым профессору архитектуры Евгению Васильеву. Васильев со своей стороны дал на них надлежащие объяснения, которые губернатор снова отправил управлявшему министерством внутренних дел, графу Виктору Павловичу Кочубею. Кочубей передал их вместе с планом и фасадом проектируемой колокольни на рассмотрение в утверждённый тогда при министерстве внутренних дел строительный комитет. 4-го марта 1820 года чрез губернатора комитете потребовал от Васильева доставить ему генеральный план и фасад собора и разрез предполагаемой колокольни, хотя и не иллюминованные, а в одних только чертах, так как они нужны были комитету для суждения об отношении колокольни к собору и для соразмерности отдельных её частей с украшениями. Профессор Васильев выполнил и это требование. И только 8-го мая 1820 г. были утверждены план и фасад харьковской соборной колокольни.

Получив от губернатора утверждённые министром план и фасад новой соборной колокольни 27 марта 1821 года, преосвященный Павел сделал распоряжения о начале строительства. Прежде всего прихожане занялись устройством своего собственного кирпичного завода, законтрактовав для этого на семь лет довольно значительный участок земли, принадлежавший надворному советнику Ивану Шевичу; купили на сруб вблизи Харькова лес; заключили контракты с землекопами, каменщиками и плотниками.

К 31 мая 1821 г. рвы под фундамент для колокольни глубиной до 14 саженей были готовы. 2 июня 1821 г. было освящено протоиереем Прокоповичем место для соборной колокольни. На другой же день начали и кладку кирпича. Работы пошли быстро, до конца года было заложено в строение 800000 кирпича и столько же тысяч кирпича было заготовлено на заводе к следующему году, на что потратили 113476 руб. 77 коп. Так что в 1823 году пришлось взять ссуду в 40000 руб. под 5 % на 10 лет из Слободско-украинской казенной палаты.

С 1825 по 1831 г. работы по постройке были остановлены по ряду причин: 1) заболел, а 17 января 1826 года умер протоиерей А. Прокопович; 2) по мнению архитектора Васильева, был дан отдых строению для осушки стен и надлежащей осадки здания; 3) вновь возник недостаток средств, связанные с возведением второго этажа на каменные лавки гостиного двора, на что потратили более 15 тыс. руб.; 4) соборный староста купец Семён Гаврилович Мухин, видя происходящие вокруг неурядицы, упадок энергии и недостаток в деньгах, продал самовольно в 1823 году весь выделанный на соборном заводе кирпич (целых два миллиона) в приказ общественного презрения и 37310 штук разным людям по 24 рубля за тысячу кирпичей, всего на сумму 55200 руб.

Только в 1831 году снова явилась возможность продолжать работы по сооружению колокольни, но тут возникли слухи о трещинах на колокольне, которые не подтвердились. К июню 1832 года было возведено два яруса колокольни и заделано пространство между новой колокольней и соборным храмом и оба эти здания согласно фасаду были соединены между собой одной крышей, устроенной на каменных стрельчатых сводах.

В 1834 г. работы по сооружению соборной колокольни опять остановились – в 1833 г. умер архитектор Евгений Алексеевич Васильев, К этому времени опять стали заканчиваться средства у прихожан. Только в 1837 году смогли приступить к продолжению работ, для технического надзора за производством работ был приглашён архитектор харьковского университета, профессор Андрей Тон. В 1840 г. соборная колокольня вчерне была окончена и 1 октября 1841 г., по совершении крестного хода из Покровского собора в Успенский и по совершении преосвященным архиепископом Смарагдом молебствия с окроплением св. водою, крест в 25 пудов весом и 7 аршин высотою, обитый позолоченными чрез огонь листами, был поднят и утверждён на колокольне московским мастером Лукиным. В 1842 г. были производимы штукатурные и мелкие кровельные работы на карнизах и фронтонах. Но совершенное окончание работ по сооружению соборной колокольни нужно вообще относить только к 1844 году.

Из общего отчёта в консисторию в конце 1841 г. видно, что на устройство колокольни с тёплою при ней церковью всего поступило 333444 руб. 48 коп. ассигнациями (95269 руб. 85 коп. серебром). Устройство одного креста и главы на колокольне стоило до 20 тысяч рублей. Кирпича положено 3,5 млн. штук; связного железа употреблено до 4000 пудов. Высота соборной колокольни вместе с её куполом и крестом достигает 42-х саженей.

4 ноября 1846 г. по ходатайству преосвященного архиепископа Иннокентия, Синод дал знать указом, что «так как колокольня при Харьковском Кафедральном Соборе сооружена усердием граждан в ознаменование признательности к Богу за события 1812 года, то и Св. Синод признаёт с своей стороны приличным сделать на ней предположенную надпись: «Богу Спасителю за избавление отечества нашествия галлов и с ними двадесяти язык». Надпись эта была сделана за 310 руб. крестьянином Роговым в апреле 1847 года, по образцу, данному харьковским губернским архитектором Даниловым.

В том же году, с разрешения епархиального начальства, были устроены ещё две надписи на листах толстой   латунной меди для укрепления на внутренних стенах соборной колокольни. На этих досках изображены: время построения колокольни, имена архиереев, при которых она строилась, имена её строителей, ктиторов, попечителей и главнейших жертвователей, глубина её фундамента, её высота и общая стоимость.

Через несколько лет на колокольне появился необыкновенный для Харьковской епархии колокол. В 1863 году Павел, Иван и Алексей Рыжовы, в память о своем отце Иване Ивановиче Рыжове пожертвовали в собор большой колокол, весом в 1003 пуда, вылитый на их собственном колокольном заводе. Одного металла на него ушло на 11230 руб. серебром. В сентябре 1863 года колокол был доставлен в Харьков, поднят и укреплён на первом ярусе соборной колокольни.

В 1889 году на средства духовенства и других сословий Харьковской епархии был устроен серебряный колокол, именуемый Царским, весом в 18 пудов серебра. На нём среди художественно исполненных орнаментов с одной стороны изображена монограмма с инициалами Высочайших имён императора и императрицы. Эту монограмму окружала с трёх сторон гирлянда с рельефными изображениями имён их детей: Николай, Ксения, Георгий, Ольга, Михаил; сверху монограммы располагалась императорская корона. С другой стороны шла надпись славянскими буквами: «сей серебряный колокол сооружён в 1889 году усердием духовенства и других сословий харьковской епархии». Внизу по окружности колокола была изображена славянскими буквами, вязью надпись: «В память чудесного спасения 17-го октября 1888 от смертной опасности, при крушении близ города Харькова железнодорожного поезда, Государя Императора Александра III, Государыни Императрицы Марии Фёдоровны и Августейших Детей Их: Наследника Цесаревича Великого Князя Николая Александровича, Великих Князей: Георгия и Михаила Александровичей и Великих Княжен: Ксении и Ольги Александровн». В том же году для утверждения этого колокола была устроена в западном пролёте второго яруса соборной колокольни особая каменная часовня, украшенная императорской короной, с Нерукотворным образом Спасителя и неугасимой пред ним лампадой. С наружной стороны эта часовня ограждала металлической решёткой.

Успенский собор закрыли в 1924 г. перенесли из него все ценности, а в 1929 г. разобрали все купола, которые были восстановлены только в 1980-е годы. В 1930 г. с колокольни были сняты колокола, а вместо креста была установлена антенна областного радио. В 1980-е годы в колокольне был малый зал филармонии, где устраивались концерты камерной музыки, в настоящее время в этом зале возрожден храм во имя Параскевы Пятницы. В 2006 г. вновь установлен крест на колокольне.