В середине 1970-х семья Ярославских переехала в Харьков.

Здесь после окончания школы Александр поступил в Харьковский авиационный институт, но через год перевелся в Харьковский институт общественного питания, где получил диплом технолога.

После института отслужил срочную службу в ВС СССР (в институте не было военной кафедры), а затем еще год по контракту работал в офицерской столовой в Венгрии.

1986 — 1987 годы — закончив юридические курсы при МВД, Ярославский несколько месяцев поработал инспектором в харьковском отделе по борьбе с хищениями социалистической собственности (ОБХСС). Быстро понял, что это не его призвание и уволился из органов МВД.

1987 — 1989 годы — учился в аспирантуре Одесской национальной академии пищевых технологий, где и защитил кандидатскую диссертацию.

1990 — 1992 годы — вернулся в Харьков, где работал в Институте общественного питания. В этот же период начал заниматься бизнесом. СМИ утверждают, что Ярославский начинал карьеру с охраны мест продажи на рынке Барабашово.

1992 — 1996 годы — после удачной женитьбы на дочери многолетнего председателя Харьковского облисполкома Александра Масельского стал вице-президентом АО «Гея». Занимался скупкой ваучеров и приобретением пакетов акций предприятий, бартером энергоносителей, банковскими делами. В 1996 году стал владельцем крупнейшего пакета акций АКБ «УкрСибБанк».

1996 — 1997 годы — Ярославский работал вице-президентом представительства фирмы Triverton International (Дублин) в Украине.

1998 год — бизнесмен стал президентом АКБ «УкрСиббанк», а с 2003 года — он почетный президент банка.

1998 — 2005 годы — вместе с партнером Эрнестом Галиевым Ярославский создал вокруг «УкрСиббанка» настоящую бизнес-империю. Он стал владельцем меткомбината им. Дзержинского, Северного ГОКа, покупает «Черкасское химволокно» и « Черкасский Азот», а дальше стал акционером оператора мобильной связи Kyivstar. В 2005 году его состояние составило 900 млн долларов, он контролировал также девелоперскую компанию Castle Development, ООО «Нью Системс Холдинг», ОАО «Первый КАРЗ», Одесский «Real Estate», Украинскую горнодобывающую компанию, «Мерефянскую стеклянную компанию», «Нью Системс АМ», ряд других предприятий.

В 2004 году всего за 1,5 млн долларов Ярославский выкупил у Александра Фельдмана его харьковский футбольный клуб «Металлист», который быстро вывел из кризиса и превратил в одного из лидеров отечественного футбола.

2005 — 2007 годы — после продажи французскому «BNP Paribas» 51% акций «УкрСиббанка» Ярославский и Галиев поделили совместный бизнес. С тех пор его активы концентрируются вокруг холдинга DCH, находится в единоличной собственности бизнесмена. Он контролирует Украинскую горнодобывающую компанию, девелоперские компании, объекты элитной недвижимости (в частности, элитный жилой комплекс «Воздвиженка» в Киеве), долю собственности в сети торгово-развлекательных центров «Караван», «Харьков-цемент»и другие компании.

2007 год — Ярославский вместе с Игорем Коломойским завели своих людей в руководство «Укртатнафты» и начали доводить предприятие до банкротства. В 2010 году они получили по 26% акций.

На этот же период приходится «поход» Ярославского в большую политику. В 2002 году он баллотируется в Верховную Раду по списку Партии Зеленых, однако она не преодолела проходной барьер. Тогда в следующем году на довыборах в парламент бизнесмен победил на 206 избирательном округе как мажоритарщик. Он присоединился к группе «Демократические инициативы», которая объединилась вокруг Владимира Литвина, но политическими делами не занимался, лоббировал интересы собственного бизнеса. Впоследствии он принял решение не тратить больше время и финансы на парламентскую деятельность, отказавшись баллотироваться в 2006 году.