Existem várias formas de fazer isso, listo aqui algumas delas:
1) criar fórmulas pra calcular e conferir os dígitos - por questões de praticidade, precisaria usar várias células como apoio. Fazer em uma célula única é um pouco trabalhoso e confuso
2) Criar uma "macro" personalizada - este caso não recomendo pois precisará escrever código na linguagem "LibreOffice Basic" que é na minha opinião muito ruim.
3) Instalar uma extensão já criada por alguém. Encontrei uma disponível no link a seguir mas é muito antiga (2011) e não creio que funcione: https://wiki.documentfoundation.org/Extensions/Projects/CpfCnpj/pt-br - como o código fonte está disponível, daria pra ajustar o que for necessário.
4) Criar (ou contratar alguém pra criar) uma extensão pro LibreOffice em linguagem compatível com Java (ex.: Java, Kotlin, Clojure) e instalar a extensão.