« Mine de rien » et « ça devait bien … » sont deux groupes indépendants. D'abord, vérifie que tu comprends bien la phrase « ça devait bien faire des années que les deux tableaux [...] n'avaient pas été réunis [...] ». « Ça faisait des années que les deux tableau n'avaient pas été réunis » signifie que la dernière fois que les deux tableaux avaient été réunis date d'il y a plusieurs années (ou éventuellement qu'ils n'avaient jamais été réunis). Passer de « ça faisait » à « ça devait faire … » indique que ce n'est pas une affirmation certaine : « ça faisait » est une affirmation absolue, tandis que « ça devait faire » signifie « je pense que ça faisait ». L'adverbe « bien » accentue « des années », il tend à faire paraître l'intervalle de temps plus long (des années, peut-être même des décennies ?).
« Mine de rien » signifie que quelque chose est caché. Ce n'est pas forcément caché volontairement, ça peut très bien être quelque chose à laquelle personne ne faisait attention. Souvent, la visibilité en question est abstraite, par exemple un évènement inattendu (que l'on n'avait pas vu venir). Ici, « mine de rien » indique que le locuteur n'avait pas remarqué auparavant que les tableaux n'avait pas été réunis depuis longtemps. Ils n'avaient pas été réunis l'année dernière, ni l'année d'avant, ni ... Ah, oui, mine de rien, ça faisait longtemps.