Парк им. Горького (бывший Городской сад) родился из самого чрева Ростова — из огромного оврага, который в народе называли Генеральской балкой (в 30-е годы XVIII века на территории балки находились загоны для скота, принадлежавшие генералу И. Краснощекову).

К тому же эта балка была основным, центральным местом свалки всяких отбросов и нечистот. По её дну протекал Безымянный ручей. Переезжать эту балку считалось делом опасным, и ростовчане зачастую нанимали солдат для охраны.

В 1795 году комендант крепости генерал-майор Баранов часть садов, расположенных на территории балки, продал, а часть отдал горожанам. Участок будущего городского сада принадлежал городскому голове А. Ященко. В 1813 году он передает его магистрату. Магистрат сад принял и начал приводить его в порядок. За окультуривание оврага берется легендарный «городской голова» Андрей Матвеевич Байков.

По инициативе Байкова через балку по Таганрогскому проспекту строится каменный мост, и вплоть до 1893 года ведутся работы по закрытию балки. Арка моста послужила началом сооружения городской канализации.

Ростов тем временем разрастается, Большая Садовая становится главной улицей и Генеральская балка оказывается в центре города, а благодаря заботам ростовцев превращается в ухоженный и красивый Городской сад. С установлением ворот в парк перестают пускать нищих, солдат и собак. Сейчас о балке напоминает лишь необычная двухэтажная конструкция сада.