Возможно ли лишить брата наследства на основании отсутствия помощи и поддержки матери?

Да, вы имеете право на основании сказанного, подать исковое заявление в суд о признании вашего брата недостойным наследником. После вынесения судом решения, он не будет иметь права на получение наследства.

Изложенные Вами обстоятельства не могут являться основанием для признания брата недостойным наследником. В соотв. с нормами ч.3 ГК РФ не наследуют ни по закону, ни по завещанию граждане, которые своими умышленными противоправными действиями, направленными против наследодателя, кого-либо из его наследников или против осуществления последней воли наследодателя, выраженной в завещании, способствовали либо пытались способствовать призванию их самих или других лиц к наследованию либо способствовали или пытались способствовать увеличению причитающейся им или другим лицам доли наследства, если эти обстоятельства подтверждены в судебном порядке.

Таким образом, для признания гражданина недостойным наследником необходимо или наличие обвинительного приговора (если бы брат был признан виновным в совершении преступления в отношении матери или решения суда, в соответствии с которым брат обязан осуществлять помощь в отношении матери (алиментные обязательства), а он их не исполнял и т.п.