Est-ce que fils de pute et enculé ont le même sens ici ?
Leur sens littéral importe peu. Ce sont toutes deux des insultes crues et violentes.
L'un de ces termes constitue-t-il une atténuation, un euphémisme de l'autre ;
Non.
Pourquoi aurait-on choisi le premier plutôt que le second ici ?
Parce que, comme motherfucker avec mf et contrairement au second, le premier dispose d'une abréviation connue très facilement identifiable fdp. Cette abréviation atténue aussi la grossièreté de l'expression. Une autre abréviation connue et dans le même esprit que mf est ntm1. Elle est cependant probablement trop associée au [groupe de rap de même nom][1].
Accessoirement, comprend-on généralement enculé comme signifiant enculé de ta mère ?
Pas spécialement. De ta mère sert ici à intensifier l'insulte, comme aurait pu le faire aussi de ta race ou de tes morts. Ces suffixes « poétiques » certainement créés sous l'influence de l'arabe, en particulier [nardinamouk][2] (maudite soit la religion de ta mère) sont arrivées en français d'abord via les Français d'Afrique du nord (Pieds-noirs), puis par les populations immigrées provenant du Maghreb. NTM vient d'ailleurs aussi probablement de l'arabe : nicoumouk.
1 Abréviation de nique ta mère [1]: https://fr.wikipedia.org/wiki/Supr%C3%AAme_NTM [2]: https://fr.wiktionary.org/wiki/nardinamouk