Могут ли мне отказать в выплате налогового вычета, если я покупал долю в квартире у родной сестры?

к сожалению да

В соответствии с абз.26 пп.2 п.1 ст.220 Налогового кодекса РФ имущественный налоговый вычет при покупке квартиры/дома/земли не применяется в случаях, если сделка совершается между физическими лицами, являющимися взаимозависимыми. К взаимозависимым лицам относится и определенный круг родственников физического лица.