Se prendre is colloquial for recevoir, subir ("receive, undergo".)
Une engueulade is derived from engueuler, from gueule ("animal's mouth/maw.") Engueuler is a colloquial and common term for gronder/réprimander ("to scold".)
Maison is used figuratively. It is here an invariable adjective and a short for fait maison ("home made") implying a good quality and carefully made product. Maison doesn't means the scold will happen at anyone's home.
Thus, se prendre une engueulade maison is to receive a sharp scolding. This is only verbal, no physical fight here.
Maison entry in the TLFi states:
II. − Adj. inv. [En appos. avec valeur expressive valorisante]
…
− Fam. Particulièrement réussi, soigné. Blague, engueulade, gifle maison. Jacques arrache à la débauche le pauvre orphelin, c'est encore le sujet, et l'objet, d'une bagarre maison (Queneau, Loin Rueil, 1944, p. 43).[Pierre Sora] l'avait levée (...) à Tanger et, après un baratin maison, l'avait ramenée à Paname (Le Breton, Rififi, 1953, p. 47).
There is also se prendre un savon with the same meaning.