Заложен в 1804 году на землях, отведенных городом университету ( то время это была окраина со свалками). Земли распахали, что вызвало неудовольство графа Потоцкого, попечителя учебного округа: он собирался здесь обустроить английский сад на основе естественного рельефа. Тем не менее он рьяно взялся обустраивать английский сад. Деревья завозили из Крыма и Западной Европы. Только за 1807 год высадили около 3 тысяч растений. При этом Потоцкий вчетверо превысил лимит выделенных на обустройство сада средств (4 тысячи рублей вместо положенной одной), чем вызвал большое неудовольство тогдашнего министра просвещения. После этого университету пришлось заниматься больше ботаническим садом, а английский сад развивать за счёт выручки от продажи сена.

Сад вскоре стал местом массовых гуляний. Известно, что в 1814 году в нём пытались взлететь на воздушных шарах, но их уничтожил пожар. Анонимка об этом факте, поступившая на имя ректора университета и полицмейстера стала первым письменным упоминанием о воздухоплавании в Харькове.

В 1901 году сад был неспокойным местом. В нём устроили себе пристанище местные бродяги (как сказали бы сегодня, бомжи), пристававшие к прохожим, выпрашивая милостыню.

В советские времена на части территории сада обустроили Профсоюзный сад (находился со стороны нынешнего оперного театра), активно воевавший с университетом за территорию. В 1930 году оба сада объединили. С 1935 года, после того как на центральной аллее установили памятник Шевченко, сад назвали именем поэта.

В саду Шевченко находятся зоопарк (по центральной аллее до конца и далее правее фонтана цветомузыки), кафе "Кристал" — популярное, можно сказать культовое место в совесткие времена, сперва полноценный ресторан, затем основным ассортиментом стало мороженное и другие десерты (от фонтана наискосок влево), киноконцертный зал "Украина" и недавно открытый дельфинарий. За киноконцертным залом и дельфинарием находится водяной каскад, ведущий на улицу Клочковскую, в советские времена один из символом города, затем был основательно запущен.