Первым клубом в профессиональной карьере стал московский «Спартак», в составе которого дебютировал в 1993 году. Спустя два года, защитник был выбран «Торонто» в девятом раунде драфта. Перед стартом сезона 1996/97 Марков уехал из Москвы и стал выступать за фарм-клуб «Торонто». Постепенно россиянин прибавлял во многих компонентах игры, а к концу сезона-1997/98 смог закрепится в стартовом составе канадского клуба.

После четырех сезонов в форме «Торонто» Марков был обменян в «Финикс» сразу на трех хоккеистов. В своем первом сезоне в составе новой команды защитник провел 72 матча и набрал 36 (6+30) очков, а уже через год он вновь сменил клуб.

Надолго остаться в «Каролине» у Маркова не получилось. Уже по ходу сезона-2003/04 хоккеист был обменян в «Филадельфию» на форварда Джастина Уильямса. Всего же в том сезоне Марков сыграл в 78 матчах и набрал 19 (6+13) очков.

После локаута и установления нового потолка зарплат «Филадельфия» была вынуждена начать активно обменивать своих игроков. В их число вошел и Марков, которому предстояло продолжить карьеру в «Нэшвилле». За сезон, проведенный в составе этого клуба, защитнику так и не удалось поразить ворота соперников – на счету Маркова только 11 результативных передач в 58 матчах.

Перед стартом сезона-2006/07 хоккеист в качестве свободного агента перешел в «Детройт». За сезон Марков провел 66 игр и набрал 16 (4+12) очков, после чего принял решение о возвращении в Россию. Летом 2007 года в американской прессе ходили слухи об интересе к россиянину со стороны «Нью-Джерси» и «Рейнджерс», однако сам хоккеист предпочел московское «Динамо».

В 2008 году вместе со сборной России выиграл чемпионат мира в Канаде.