Para remover completamente uma instalação do MariaDB, não basta somente remover o pacote do SGBD, mas também remover todos os seus arquivos e configurações.
O script abaixo pode ser bem útil pra esse fim:
sudo apt purge mariadb-server
sudo apt autoremove
sudo rm -rf /var/lib/mysql/
sudo find / -name ".mysql_history" -exec rm -rf {} \;
Deve-se saber que esses comandos apagam todo o rastro de MySQL/MariaDB num Debian, inclusive o histórico de comandos usados na linha de comando do banco.
Para reinstalar o banco, faz-se como esperado:
sudo apt install mariadb-server
Mas recomendo seguir instruções mais completas de uma boa instalação
