Должен ли нерезидент РФ платить подоходный налог при продаже авторских прав на сайт и домен российской компании?

Уточните у данной организации. Если они выполнили обязанности налогового агента и оплатили за Вас налог, то Вы ничего никому не должны

Налоговый кодекс РФ

Статья 226. Особенности исчисления налога налоговыми агентами. Порядок и сроки уплаты налога налоговыми агентами

1. Российские организации, индивидуальные предприниматели, нотариусы, занимающиеся частной практикой, адвокаты, учредившие адвокатские кабинеты, а также обособленные подразделения иностранных организаций в Российской Федерации, от которых или в результате отношений с которыми налогоплательщик получил доходы, указанные в "пункте 2" настоящей статьи, обязаны исчислить, удержать у налогоплательщика и уплатить сумму налога, исчисленную в соответствии со "статьей 224" настоящего Кодекса с учетом особенностей, предусмотренных настоящей статьей. Налог с доходов адвокатов исчисляется, удерживается и уплачивается коллегиями адвокатов, адвокатскими бюро и юридическими консультациями.

Указанные в "абзаце первом" настоящего пункта лица именуются в настоящей главе налоговыми агентами.

...

Вы должны самостоятельно исчислить налог 30% и подать декларацию не позднее 30.04. в ИМНСпо месту нахождения банка

Можно и не платить 30 % налог.

Можно завести ИП по УНС 6%, лицевой счет ИП - и вести дела и надо самому(или чтобы кто-то по доверенности) сдавал отчетности в ИФНС и прочее, так же банк может затребовать документы всегда по р/c ИП, но опять кто-то должен их принести.

Можно открыть дебетовый счет и карту в Банке на имя другого физ.лица(резидента РФ), и представляться фирмам и заключать договора от другого имени, тогда автоматически налоговым агентом(заказчиком) будет удерживаться налог в 13%,

Можно друга(резидента) открыть счет на его же имя, а карту и все данные и коды выслать Вам DHL,

Имеется одна законная возможность снизить размер налога:

Если между Россией и той страной, в которой Вы постоянно проживаете и налоговым резидентом которой являетесь, заключено международное соглашение об избежании двойного налогообложения, желательно ознакомится с ним. Дело в том, что статья 223 Налогового кодекса РФ позволяет в таком случае уплатить налог на доходы физических лиц в бюджет страны проживания и по ставкам, предусмотренным для этого налога в этой стране. Так что, если ставки этого налога для страны Вашего проживания ниже, чем в России, налог с дохода Вы имеете право исчислить и уплатить по ее законам.

Для более точного ответа нужно найти такое соглашение, если оно есть, и внимательно его изучить.