Если у меня паспорт РФ и загран паспорт Украины, я смогу выехать в Сербию? Или надо делать загран паспорт РФ?

 Нет, поскольку Вы являетесь гражданином РФ, в связи с чем, в силу ст. 6 ФЗ «О гражданстве РФ» Вы рассматриваетесь только как гражданин, с возложением на Вас соответствующих прав и обязанностей.

Одной из них является пересечение границы РФ по действительному заграничному паспорту РФ.

В силу ст. 6 ФЗ  от 15.08.1996 N 114-ФЗ «О порядке выезда из Российской Федерации и въезда в Российскую Федерацию» предусмотрено, что 

 Выезд из Российской Федерации и въезд в Российскую Федерацию граждане Российской Федерации осуществляют по действительным документам, удостоверяющим личность гражданина Российской Федерации за пределами территории Российской Федерации.

Однако, Вы можете выехать из РФ по паспорту гражданина РФ в те государства, где при пересечении границы заграничный паспорт не требуется. Например, в Армению. 

Из нее уже вполне возможен выезд в любую иную страну на основании заграничного паспорта Украины. 

Согласно ст. 6 Федерального закона от 15.08.1996 N 114-ФЗ «О порядке выезда из Российской Федерации и въезда в Российскую Федерацию

Выезд из Российской Федерации и въезд в Российскую Федерацию граждане Российской Федерации осуществляют по действительным документам, удостоверяющим личность гражданина Российской Федерации за пределами территории Российской Федерации.

Нужен загранпаспорт РФ.