Как разделить квартиру между двумя дочерьми, если одна из них не прописана и не имеет доли в ней?

Сестра матери является таким же наследником первой очереди по отношению к бабушке (т.е. к их матери) как и сама Ваша мама. Следовательно, доля бабушки наследуется ими в равных долях. В итоге должно получиться, что у Вашей мамы доля будет 3/6, а Вас 2/6, а у сестры 1/6.

Также обращаю внимание, что согласно ст. 1168 ГК РФ наследник, обладавший совместно с наследодателем правом общей собственности на неделимую вещь (т.е. Ваша мама) (статья 133), доля в праве на которую входит в состав наследства, имеет при разделе наследства преимущественное право на получение в счет своей наследственной доли вещи, находившейся в общей собственности, перед наследниками, которые ранее не являлись участниками общей собственности, независимо от того, пользовались они этой вещью или нет.

Правда в этом случае Ваша мама должна предоставить компенсацию сестре, поскольку в ст. 1170 ГК РФ установлено, что несоразмерность наследственного имущества, о преимущественном праве на получение которого заявляет наследник на основании статьи 1168 или 1169 настоящего Кодекса, с наследственной долей этого наследника устраняется передачей этим наследником остальным наследникам другого имущества из состава наследства или предоставлением иной компенсации, в том числе выплатой соответствующей денежной суммы.