Михайловская улица появляется на плане Харькова 1822 года в Захарьковской части. Улица начиналась от Харьковской набережной и шла через Михайловскую площадь далее, дойдя в середине XIX ст. до Конной площади.

В 1922 году улица была переименована в честь большевика М. Яковлева, а в 1938 году в честь грузинского поэта Шота Руставели.