Но как это лучше сделать, чтобы посторонние лица не смогли претендовать на квартиру незнаем.

Добрый вечер, Инесса! Давайте начнем с того, являлся ли ваш брат единственным сыном умершей матери? если да, то он один наследует её долю в праве собственности на квартиру и становится с учетом своей доли единственным её владельцем. В случае, если он оформляет завещание например на вас с сестрой, то вы будете единственными наследниками этой квартиры, но собственность на неё перейдет лишь после смерти брата. Кроме того, возможна (хотя и маловероятна) ситуация, когда сожительница брата сможет через суд доказать, что находилась на иждивении вашего брата, а на момент его смерти является нетрудоспособной, в этом случае она будет иметь право на обязательную долю в наследстве независимо от завещания. Аналогично, если она будет являться законной супругой брата и на момент смерти будет нетрудоспособной.

В случае заключения договора дарения в вашу пользу, право собственности переходит к вам с момента государственной регистрации сделки. Соответственно вы будете полноправным владельцем квартиры, в том числе только с вашего согласие будет возможна регистрация жильцов в ней. Договор дарения может быть оспорен в принципе как и любой другой договор, но только при наличие веских оснований.

Часто в подобных случаях заключают договор купли-продажи, руководствуясь тем, что возмездную сделку оспорить все-таки сложнее чем например дарение.

Чтобы оформить квартиру на троих ваш брат (после принятия наследства после матери) может подарить (продать) вам с сестрой по 1/3 в данной квартире.

Документы для оформления сделки нужны стандартные: кадастровый паспорт, свидетельство о праве собственности ну и конечно сам договор.

По поводу наследования государством могу сказать следующее: действительно, если наследник отказался от наследования либо наследники отсутствуют имущество может быть признано выморочным и отойти в собственность муниципального образования (город), но только в судебном порядке. В случае когда наследник имеется. но он просто не принял наследство (не отказываясь от него), то он может в любой момент принять его, но только уже в судебном порядке либо восстановив срок для принятия наследства, либо установив факт принятия наследства. Надеюсь, я ответил на ваши вопросы...Всего доброго!