Для того чтобы разобраться в том сможет ли брат (двоюродный или родной) претендовать на наследство брата, следует изучить очерёдность наследников:
1.очередь-дети, супруг (га), родители.
2.очередь-братья и сестры (сводные или родные), дедушки, бабушки. В случае, когда нет братьев или сестёр (смерть, отказ), то наследниками считают их детей (племянники (-цы) наследодателя).
3. очередь-дяди, тёти. Если этих родственников нет в живых, либо они оформили отказ от наследуемого имущества, то наследниками становятся их дети (двоюродные сёстры, братья).
Получается, что родной брат находится вторым в очереди наследников, а двоюродный — третьим. Наследниками они могут стать только в случае:
• составления завещания умершим, где брат (родной или двоюродный) указан наследником;
• наступления смерти, признания недостойными наследства или оформления отказа от наследников предыдущих очередей;
• нахождения на иждивении у умершего (или наоборот).
В последнем случае, брат (родной или двоюродный) становится наследником первой очереди. Срок иждивения должен составлять не менее одного года, причём совместно проживать при этом не требуется. 
Смотрите также:
Какое право есть у бывшего супруга на наследство?
Как продать автомобиль по наследству и какой на это налог?
Может ли сестра (родная, двоюродная) претендовать на наследство брата?