quizás modificando el registro?
¿Tienes asignado para que la extensión abra con LibreOffice?
si, si abro desde la carpeta un .xls lo abre scalc.
El problema es cuando una aplicación quiere ejecutar excel.
Por ejemplo cuando quieres exportar a excel el extracto de una cuenta, hay bancos que simplemente guardan un .xls que despues puedo abrir, pero hay otros (y esos son los problematicos) que abren el excel para despues pasar (creo que lo hacen por automatización OLE) los datos al libro abierto, evidentemente sin el excel no funciona.
Bucea un poco por la red, tengo un vago recuerdo sobre alguna forma de hacerlo, pero no estoy seguro.