Bastante simple este snippet para algo que no es nativo de Java. Java no permite borrar un directorio que contenga archivos adentro. Lo primero que hay que hacer para eliminar el directorio es simplemente eliminar los archivos interiores. Aca un snippet que se llama recursivamente.

public boolean deleteDirectory(File directory) {
  File[] files = directory.listFiles();
    for(int i = 0; i < files.length; i++) {
      if(files[i].isDirectory()) {
	this.deleteDirectory(files[i]);
      } else {
	files[i].delete();
      }
   }
   return path.delete();
}