Половину объема шара плавает в ртути, половина в масле
Объем шара V=4*пи*R^3/3, половина объема 2*пи*R^3/3

На шар действует сила тяжести и выталкивающая сила состоящая из двух компонентов – архимедова сила в масле и архимедова сила в ртути. Сумма выталкивающих сил и сила тяжести уравновешивают друг друга так как шар плавает

mg=рор*g*V/2 + ром*g*V/2

рор -плотность ртути
ром – плотность масла

m=рош*V

рош – плотность шара

рош*V*g = (рор+ром)*g*V/2

рош= (рор+ром)/2