Чтобы наладить регулярное железнодорожное сообщение Ростова с соседними регионами и Центральной Россией, понадобилось около десяти лет. Начало железнодорожной сети на Дону положила Грушевская дорога: она открылась в 1863 году и прошла от Грушевских угольных копей через Новочеркасск к речной пристани у станицы Аксайской. В 1868 году её продлили от Аксая до Ростова-на-Дону, и 4 февраля 1868 года в город прибыл первый поезд из Новочеркасска.
Грушевская (Грушевско-Донская) железная дорога
Колею проложили по правому берегу Дона, а конечной стала станция Ростов-Пристань на месте нынешней центральной набережной.
С приходом Грушевской дороги товарные перевозки Ростова выросли на 80 %, а в 1869 году — ещё на 10 %. За год перевезли 259 817 пассажиров и 8,8 млн пудов грузов, главным образом антрацита и строительного леса.
В декабре 1869 года в Ростов-на-Дону пришла ещё одна линия — со стороны Таганрога, а ещё через два года Грушевская дорога соединилась с веткой Козлов — Воронеж. Так к началу 1870-х годов город получил сразу два выхода к Донбассу и промышленному центру страны, после чего железная дорога устремилась дальше на юг, в сторону Северного Кавказа. В 1875 году открылось движение по новой линии Ростов — Владикавказ, положившей начало Владикавказской дороге, правопреемницей которой стала Северо-Кавказская.
Грушевская (Грушевско-Донская) железная дорога
Таким образом, во второй половине XIX века к Ростову-на-Дону подходили три самостоятельные дороги: Курско-Харьковско-Азовская, или Екатерининская (с 1863 года), Козлово-Воронежско-Ростовская (с 1870 года, в дальнейшем Юго-Восточная) и Ростово-Владикавказская (с 1884 года — Владикавказская).