Поскольку вывод своего уравнения из базовых не написали, то где искать ошибку?
Формула с общей высотой подходит для расчёта в любом случае, если в неё подставите среднюю плотность давящей среды, которая равна отношению полной массы к полному объёму. Массы складываются, объёмы несмешивающихся жидкостей тоже складываются. Объём жидкости в цилиндрическом сосуде прямо пропорционален её высоте.
Вывод можно подтвердить рассуждением, что в состоянии покоя давление создаётся весом жидкости, а вес прямо пропорционален массе, которые по условию задачи взяты одинаковыми, поэтому создаваемые обеими жидкостями части давления тоже равны по величине.
Ну, и если сосуд сверху открыт на атмосферу, то к гидростатической части давления надо добавить атмосферное.