Шаркич свою карьеру начал в Андерлехте. Затем успел поиграть за Бенфику, Лидс, Бертон, Блэкпул, Мэнсфилд, узбекский Пахтакор и Дедич. Выступал за сборные Черногории разных возрастных категорий.
Журналист Михаил Спиваковский в программе "ТаТоТаке" в программе "ТаТоТаке" рассказал, почему Ворскле не удалось подписать хавбека. "Если говорить о заинтересованности Ворсклы черногорским рынком, то она была серьезной. История, о которой не все или мало кто знает. Ворскла очень хотела приобрести Оливера Шаркича – плеймейкера из клуба Дедича.
Там произошла трагическая история, потому что брат-близнец Оливера Шаркича Матия, вратарь клуба Миллуолл, который летом сыграл за сборную против Бельгии, ушел из жизни очень неожиданно. Это произошло в Будве (Черногория), в доме, где он проводил время с друзьями. У парня остановилось сердце. 20-го номера в Миллуолле никогда больше не будет.
И этот стресс повлиял на решение Оливера Шаркича и его семьи не ехать в Украину в военное время после того, что произошло с его братом".