Az 1940. július 5-én Magyarkanizsán született Tolnai már középiskolás korában publikált, irodalmi pályafutása az 1950-es években kezdődött. Az újvidéki egyetem magyar tanszékén tanult, majd az Ifjúság hetilap Symposion művészeti mellékletének szerkesztője lett. 1963-ban jelent meg első verseskötete, a Homorú versek, ugyanebben az évben Zágrábba költözött filozófiai tanulmányok folytatása céljából.
Az Új Symposion folyóirat szerkesztőjeként (1964–1974), majd főszerkesztőjeként (1969–1972) dolgozott, amíg cenzúra és bírósági ítélet miatt le nem kellett mondania. Később az Újvidéki Rádió szerkesztőjeként, a Jugoszláv Írószövetség utolsó elnökeként, majd 1992-től az Ex Symposion főszerkesztőjeként tevékenykedett. 1994-től haláláig Palicson élt. Gazdag életműve mintegy ötven kötetet ölel fel, köztük verseket, prózákat, monográfiákat és gyerekverseket.
Munkásságát számos elismeréssel jutalmazták, többek között Híd-díjjal, József Attila-díjjal, Déry-jutalommal, Radnóti-díjjal, Weöres Sándor-díjjal, 2007-ben Kossuth-díjjal, 2023-ban pedig a rangos közép-európai Vilenica-díjjal.
