Kovacic ist in Oberösterreich geboren und aufgewachsen, ging aber mit seiner Familie 2007 nach Zagreb. Seine Eltern waren 1991 aus Bosnien nach Linz ausgewandert. Der kroatische Nationalspieler war einst im Nachwuchs des LASK aktiv und führte die SHS Linz-Kleinmünchen als Kapitän in mehrere Schülerliga-Bundesmeisterschaften.
Anstelle des ÖFB entschied sich Kovacic aber bereits in jungen Jahren für den kroatischen Verband. Dort durchlief er alle Nachwuchsnationalmannschaften. Mittlerweile hält er bei 19 Länderspielen für das A-Team.