Шаркіч свою кар'єру розпочав у Андерлехті. Потім встиг пограти за Бенфіку, Лідс, Бертон, Блекпул, Менсфілд, узбецький Пахтакор та Дедіч. Виступав за збірні Чорногорії різних вікових категорій.

Журналіст Михайло Співаковський у програмі "ТаТоТаке" розповів, чому Ворсклі не вдалося підписати хавбека. "Якщо говорити про зацікавленість Ворскли чорногорським ринком, то вона була серйозною. Історія, про яку не всі або мало хто знає. Ворскла дуже хотіла придбати Олівера Шаркіча – плеймейкера з клубу Дедіч.

Там сталася трагічна історія, тому що брат-близнюк Олівера Шаркіча Матія, воротар клубу Міллуолл, який влітку зіграв за збірну проти Бельгії, пішов з життя дуже несподівано. Це сталося в Будві (Чорногорія), у будинку, де він проводив час з друзями. У хлопця зупинилося серце. 20-го номера у Міллуоллі ніколи більше не буде.

І цей стрес вплинув на рішення Олівера Шаркіча та його родини не їхати в Україну у воєнний час після того, що сталося з його братом".