Вопрос в том, как оформить это все юридически правильно, чтобы в будущем сестра не могла претендовать на наследство матери?

Здравствуйте, Светлана! В Вашем вопросе есть некоторые не совсем ясные моменты. Вы пишете, что собственницей квартиры является мать, а остальные (дочь, сын и их дети) только "прописаны". Если это так, то долей в праве собственности на данную квартиру ни у кого, кроме матери, нет, они имеют право пользования данным помещением (проживания в квартире) и ничего более. Соответственно, не совсем понятно, что за "часть" выкупается братом у сестры: если нет права собственности, то, строго говоря, нечего и выкупать... Но, в любом случае, теперешние соглашения между сыном и дочерью никак не повлияют на наследственные права дочери после смерти матери. Отказаться от наследства можно только после открытия наследства (т.е. после смерти наследодателя), но не ранее этого момента, причем никакие соглашения, составленные сейчас, не помешают дочери после открытия наследства принять наследство после матери. Выход может заключаться в том, чтобы квартира уже сейчас перешла из собственности матери в собственность сына и, таким образом, не вошла бы в состав наследственного имущества. А это можно оформить либо договором дарения между сыном и матерью, либо договором ренты (пожизненного содержания с иждивением). Есть и вариант с завещанием матери в пользу сына, но имейте в виду, что если на момент смерти матери дочь будет нетрудоспособна в силу пенсионного возраста или инвалидности, то она независимо от содержания завещания будет иметь право на обязательную долю в наследстве (ст.1149 ГК РФ). Т.е. завещание - это не совсем надежный вариант.

С уважением, А.Д.Руслин.