Quelques précisions paléographiques: ce ⟨x⟩ a la même source que celui de je veux, d'eux, de mieux ou de chevaux. Alignés ainsi, on se rend facilement compte de l'absence de lien systématique entre un ⟨ux⟩ final et la marque orthographique du pluriel.
L'origine de cette graphie est bien connue: les suffixes -us et -os si fréquents dans les textes latins se sont vus remplacés par une série d’abréviations dans les manuscrits de l'antiquité à l'invention de la presse mécanique. Les plus communes étaient ⟨ꝰ⟩ et ⟨;⟩ (du moins dans les textes carolingiens que j'ai étudié), mais on trouvait également ⟨x⟩ dans ce rôle (quoique plus rarement).
Une fois qu'on a commencé à écrire en français, toutes les abréviations scribales de ce genre ont été appliquées au français, là où il était possible de les appliquer (le ⟨ç⟩ est une survivance moderne de ce processus). Le vieux français ne regorgeait pas vraiment de -u finaux, mais l'évolution de la langue va en fournir deux sources: les /l/ et /λ/ devenus voyelle devant consonne (comme dans chevals /t͡ʃəvals/ -> chevaus /t͡ʃəvaʊ̯s/, bails /baλs/ -> baus /baʊ̯s/ ou els /els/ -> eus /eʊ̯s/) et les /o/ et /ɔ/ devenus diphtongues puis /ø/ en syllable ouverte accentuée (c'est le cas du suffixe -ōsum /'o:.sum/, qui devient /ozʊ/ en latin vulgaire puis /eʊ̯s/ en ancien français).
L'abréviation qui s'impose dans ces cas-là en français, jusqu'au 12e siècle, c'est justement ⟨x⟩. On écrit donc souvent, ⟨chevax⟩ ⟨bax⟩, à coté de de ⟨chevaus⟩ et de ⟨bails⟩, ou de ⟨chevalz⟩ et de ⟨bailz⟩. L'orthographe des diphtongues susmentionnées est plus complexe, on rencontre tantôt ⟨o⟩, tantôt ⟨u⟩, ⟨ou⟩, ⟨eu⟩, ⟨ue⟩, ⟨oe⟩ ou ⟨u⟩. C'est finalement ⟨eu⟩ qui l'emportera, mais de manière plus tardive, au 14e siècle.
Au 13e siècle, l'usage commence à changer et les scribes associent les différentes graphies pour créer les hybrides tels que ⟨alx⟩, ⟨aulx⟩/⟨eulx⟩ et ⟨aux⟩/⟨eux⟩, dont nous avons hérités et où x a rejoint s et z comme représentation du /s/ final. Par example, un manuscrit de la Queste del saint Graal (daté des environs de 1225-1230) orthographie le cas sujet de son Graal titulaire ⟨Graax⟩ 10 fois, ⟨Graalx⟩ 4 fois et ⟨Graaux⟩ 4 fois. Toutes ces formes restent bien entendu en compétition jusqu'à une date plus tardive (j'ai retrouvé en recherchant cette question un ⟨amourex⟩ de la moitié du 16e).
Pour en revenir au suffixe -eux, sa graphie représente donc étymologiquement la suite de la voyelle /ø/ suivi de la consonne /s/, que l'on retrouve toujours (sans dévoisement final du /z/ resté intervocalique) dans son féminin -euse. Ce /s/ fait partie du suffixe et n'a jamais été la marque du pluriel.
Tous les ⟨ux⟩ finaux n'ont pas cette justification étymologique, celui de vieux m. sg., par example, est dû à une contamination de sa prononciation par celle de son pluriel. Seule la forme de liaison, vieil, préserve l'orthographe et la prononciation originelle. En toute logique, vieux devrait s'écrire ⟨vieu⟩, mais à l'emprunt de la prononciation du pluriel s'est ajouté celui de son orthographe.