Как вернуть квартиру маме, которая находится в собственности её отца, без его участия и подписи?

К сожалению,никак- либо ехать к нему и там оформить нотариально заверенный договор купли- продажи,либо- ему ехать к вам и здесь оформлять договор в простой письменной форме

Можно оформить доверенность например вам от имени её отца у нотариуса по месту его жительства и уже потом доверенное лицо, т.е Вы от его имени подарите имущество маме

Без его подписи никак не вернуть

Можно через механизм доверенности.

Он у себя оформляет доверенность на дарение и пересылает Вам а Вы на месте оформляете дарственную