Новый сосед стал придирчивым - как решить конфликт?

Вам никто не ответить сколько может длиться процедура, "если он решит идти до конца". Поскольку баня у Вас построена еще до появления Ваших новых соседей, то сносу она не подлежит.

Надеяться что сосед в суде не пойдет до конца. В качестве доказательства подтверждения своих прав представьте в суд документ о собственности на жилое строение (часть жилого строения), кадастровый паспорт и план межевания земельного участка. Если же вышеуказанные документы отсутствуют, то доказать свою правоту будет проблематично. При отстаивании своих прав, основной документ, на который может ссылаться ущемленный владелец участка – это план разграничения земельного участка. Нормативы по обязательному отступу должны соблюдаться от крайней точки границ территории.

Если нет доказательств и свидетелей, то суд может принять решение о сносе незаконной постройки. Снос объекта капитального строительства осуществляется на основании решения собственника объекта капитального строительства или застройщика либо на основании решения суда или органа местного самоуправления (ч. 1 ст. 55.30 Градостроительного Кодекса).

...Статья 55.32. Особенности сноса самовольных построек или приведения их в соответствие с установленными требованиями.