Je viens d'avoir exactement la même situation devant moi. Le plan était également d'abord d'éliminer la vieille couche de remplissage, d'en mettre une nouvelle, puis de poser des panneaux OSB dessus.
Quand j'ai expliqué cela au magasin de bricolage en montrant des photos, on m'a directement conseillé de laisser la vieille couche de remplissage (gravats, etc., matériau relativement lourd) et de la compléter à niveau avec une couche lourde achetée au magasin de bricolage. Avant cela, enlever l'ancienne couche de remplissage, poser une protection anti-poussière, puis mettre l'ancienne + la nouvelle couche de remplissage dessus. Enfin, poser flottant des éléments de chape sèche de 20 mm (collés et vissés entre eux). En option, encore un tapis de fibres de bois de 8 mm sous les éléments, ou au moins des bandes isolantes sur les poutres en bois.
Les principaux arguments contre les panneaux OSB / pour la chape sèche : une meilleure isolation phonique grâce à une plus grande masse, pas de vissage avec les poutres en bois et donc une désolidarisation du sol. Je prends volontiers en compte les trois euros de coût supplémentaire par m².