3ee664b4a75e7601b1519e9c08a89e1a7357c228
[dealii.wiki.git] / deal.II-in-Spack.md
1 Table of Contents
2 =================
3
4    * [Using deal.II on Mac OS X and Linux via Spack](#using-dealii-on-mac-os-x-and-linux-via-spack)
5       * [Quick installation on the desktop](#quick-installation-on-the-desktop)
6       * [Installation example on a Centos7 cluster (Emmy cluster of RRZE, Erlangen, Germany)](#installation-example-on-a-centos7-cluster-emmy-cluster-of-rrze-erlangen-germany)
7       * [Enabling CUDA](#enabling-cuda)
8       * [Environment Modules](#environment-modules)
9       * [System provided packages](#system-provided-packages)
10       * [Installing GCC](#installing-gcc)
11       * [Best practices using Spack:](#best-practices-using-spack)
12          * [Info:](#info)
13          * [Extra options:](#extra-options)
14          * [Compiler flags](#compiler-flags)
15          * [Different versions coexisting:](#different-versions-coexisting)
16          * [Filesystem Views:](#filesystem-views)
17          * [Check before build:](#check-before-build)
18          * [Develop using Spack](#develop-using-spack)
19          * [Keep the stage to run unit tests](#keep-the-stage-to-run-unit-tests)
20          * [MKL and Licensed software](#mkl-and-licensed-software)
21          * [Freeze package versions](#freeze-package-versions)
22       * [Known issues using Spack:](#known-issues-using-spack)
23
24 # Using deal.II on Mac OS X and Linux via Spack
25
26 The deal.II suite is also available on Spack (https://github.com/LLNL/spack) -- a flexible package manager developed with High-Performance-Computing in mind. It is intended to let you build for many combinations of compiler, architectures, dependency libraries, and build configurations, all with a friendly, intuitive user interface.
27
28 For a quick overview of Spack's features, we recommend this short presentation https://tgamblin.github.io/files/Gamblin-Spack-SC15-Talk.pdf
29 or the following videos from lead developers:
30 [Massimiliano Culpo - SPACK: A Package Manager for Supercomputers, Linux and MacOS](https://www.youtube.com/watch?v=Qok-nXfIWfg) and 
31 [Todd Gamblin (LLNL) - Managing HPC Software Complexity with Spack](https://www.youtube.com/watch?v=Ie1cZTR09kk).
32
33 [Spack tutorial 101](http://spack.readthedocs.io/en/latest/tutorial.html) is good place to start as well.
34
35 Note: Spack is in active development and is in alpha state, thereby below we recommend using the specific snapshot of the code (hash), that was tested on macOS / Ubuntu / CentOS7 with deal.II and is being used to run the complete testsuite on `Unbutu18.04` with `openmpi` and `openblas`. See [Continuous section of CDash](https://cdash.kyomu.43-1.org/index.php?project=deal.II).
36
37 ## Quick installation on the desktop
38
39 Add the following to `~/.bashrc` (or equivalent)
40 ```
41 export SPACK_ROOT=/path/to/spack
42 export PATH="$SPACK_ROOT/bin:$PATH"
43 ```
44 `SPACK_ROOT` is the destination where you want Spack to be installed (i.e. `$HOME/spack`).
45
46 Now clone Spack
47 ```
48 cd $SPACK_ROOT
49 git clone https://github.com/spack/spack.git .
50 git checkout develop
51 git reset --hard 99f678035a279cf85a32a4fdbd98a117b9c1832f
52 ```
53
54 **Make sure C/C++/Fortran compilers are in path** (on Ubuntu you need to `sudo apt-get install gfortran`, on macOS you can compile `gcc` with spack, see [below](#installing-gcc), and you have **curl** (`sudo apt-get install curl`) to download packages. Then install the complete deal.II suite
55 ```
56 spack install --test=root dealii
57 ```
58 **DONE**! No extra (preliminary) configuration steps are needed on most Linux distributions. **IMPORTANT:** If you compile deal.II on a cluster, see the next section on how to use externally provided MPI implementation instead.
59 Additional option `--test=root` instructs Spack to run quick tests for `dealii`.
60
61 Before configuring your project you need to set `DEAL_II_DIR` by 
62 ```
63 export DEAL_II_DIR=$(spack location -i dealii)
64 ```
65 You may jump ahead and read [best practices using spack](#best-practices-using-spack). Also a good starting point is [Getting Started Guide](http://spack.readthedocs.io/en/latest/getting_started.html).
66
67
68 ## Installation example on a Centos7 cluster (Emmy cluster of RRZE, Erlangen, Germany)
69 In order to use Spack on a cluster, there are two options: (1) you are a sysadmin and you know hardware details and can use Spack to properly configure and build MPI providers (e.g. `openmpi`); (2) you are a user and you need to make Spack work with MPI provided on your cluster. Below we consider the latter case.
70
71 Here is a brief step-by-step instruction to install deal.II on [Emmy cluster](https://www.rrze.fau.de/dienste/arbeiten-rechnen/hpc/systeme/emmy-cluster.shtml#access) of RRZE, Erlangen, Germany:
72
73 (1) Download spack
74 ```
75 module load git
76 mkdir $WOODYHOME/spack
77 cd $WOODYHOME/spack
78 git clone https://github.com/spack/spack.git $WOODYHOME/spack
79 git reset --hard 99f678035a279cf85a32a4fdbd98a117b9c1832f
80 export PATH=$WOODYHOME/spack/bin:$PATH
81 ```
82 (2) Load `openmpi` and let Spack find GCC compiler which is also loaded as a dependency:
83 ```
84 module load openmpi/2.0.2-gcc
85 spack compiler find
86 ```
87 (3) Add `openmpi` as an external package, along with `python` and a few other self explanatory setting for `deal.ii`. That is done by adding the following to `~/.spack/linux/packages.yaml`
88 ```
89 packages:
90   all:
91     compiler: [gcc]
92     providers:
93       mpi: [openmpi]
94       blas: [openblas]
95       lapack: [openblas]
96   openmpi:
97     version: [2.0.2]
98     paths:
99       openmpi@2.0.2%gcc@4.8.5: /apps/OpenMPI/2.0.2-gcc/
100     buildable: False
101   suite-sparse:
102     version: [5.1.0]
103   dealii:
104     variants: +optflags~python
105 ```
106 Those paths are the location where external packages can be found (i.e. `<prefix>` instead of `<prefix>/bin` or `<prefix>/lib`). `providers` section essentially tells Spack which packages to use to satisfy virtual dependencies such as `MPI`, `BLAS`, `LAPACK`, `ScaLAPACK`, etc. Here we also limit version of `suite-sparse` to `5.1.0` as we build with `gcc@4.8.5` whereas `5.2.0` requires at least `gcc@4.9`. 
107
108 (4) Now install deal.II:  `spack install dealii`.
109
110 (5) Here is an alternative setup with Intel compilers. Run `module load intel64/17.0up03` followed by `spack compiler find`. You should get the following new entry in `~/.spack/linux/compilers.yaml`:
111 ```
112 - compiler:
113     environment: {}
114     extra_rpaths: []
115     flags: {}
116     modules: []
117     operating_system: centos7
118     paths:
119       cc: /apps/intel/ComposerXE2017/compilers_and_libraries_2017.3.191/linux/bin/intel64/icc
120       cxx: /apps/intel/ComposerXE2017/compilers_and_libraries_2017.3.191/linux/bin/intel64/icpc
121       f77: /apps/intel/ComposerXE2017/compilers_and_libraries_2017.3.191/linux/bin/intel64/ifort
122       fc: /apps/intel/ComposerXE2017/compilers_and_libraries_2017.3.191/linux/bin/intel64/ifort
123     spec: intel@17.0.3
124     target: x86_64
125 ```
126 Edit it to have
127 ```
128     extra_rpaths: ['/apps/intel/ComposerXE2017/compilers_and_libraries_2017.3.191/linux/compiler/lib/intel64_lin']
129 ```
130 Then add to `~/.spack/linux/packages.yaml` paths to `intel-mpi` and `intel-mkl`:
131 ```
132   intel-mpi: # intelmpi/2017up02-intel
133     version: ['2017.2.174']
134     paths:
135       intel-mpi@2017.2.174%intel@17.0.3: /apps/intel/mpi/2017.2.174/
136     buildable: False
137   intel-mkl: # mkl/2017up03
138     version: ['2017.3.196']
139     paths:
140       intel-mkl@2017.3.196%intel@17.0.3: /apps/intel/ComposerXE2017/
141     buildable: False
142 ```
143 and install dealii `spack install dealii%intel+mpi^intel-mpi^intel-mkl`.
144 Note that `%intel` specified the compiler whereas `^intel-mpi` and `^intel-mkl` specified which implementation of MPI and BLAS/LAPACK we want to use.
145
146 See [this discussion](https://groups.google.com/d/msg/spack/NxyNTAZyMQg/Klu2CHR8GQAJ) on more info about using Intel compilers in Spack.
147
148
149 ## Enabling CUDA
150 You can build the current development version of `dealii` with CUDA. A possible configuration of `packages.yaml` is
151 ```
152 packages:
153  dealii:
154   version: ['develop']
155   variants: +cuda cuda_arch=52
156  cuda:
157   version: ['8.0.61']
158 ```
159 where we specified explicitly CUDA architecture as well as version of `cuda` to be used.
160
161 ## Environment Modules
162 Spack provides some integration with Environment Modules and Dotkit to make it easier to use the packages it installs. For a full description, read http://spack.readthedocs.io/en/latest/getting_started.html#environment-modules
163
164 To add the support for Environment Modules run
165 ```
166 spack install environment-modules
167 ```
168 Get the path to the prefix of `environment-modules` by:
169 ```
170 spack location --install-dir environment-modules
171 ```
172 and then add to `~/.bashrc` (or equivalent)
173 ```
174 MODULES_HOME=/path/to/environment-modules
175 source ${MODULES_HOME}/Modules/init/bash
176 . $SPACK_ROOT/share/spack/setup-env.sh
177 ```
178
179 If you install `deal.II` before setting up environment modules,
180 the module files have to be regenerated
181 ```
182 spack module refresh
183 ```
184
185 Then run
186 ```
187 spack load dealii
188 spack load cmake
189 ```
190 Now `DEAL_II_DIR` environment variable should be set appropriately and `cmake` executable will be available in path. Keep in mind that `spack load dealii` will also set `LD_LIBRARY_PATH` accordingly, this may or may not be what you need. An alternative is to use `export DEAL_II_DIR=$(spack location -i dealii)`.
191
192 ## System provided packages
193 Spack is flexible to use both self-compiled and system provided packages. 
194 In most cases this is desirable for `MPI`, which is already installed on computational clusters. To configure external packages you need to edit `~/.spack/linux/packages.yaml`. For `openmpi` this could be
195 ```
196 packages:
197   openmpi:
198     version: [1.8.8]
199     paths:
200       openmpi@1.8.8%gcc@6.2.0: /opt/openmpi-1.8.8
201     buildable: False
202 ```
203 In order to make sure that we use to build packages `1.8.8` version of `openmpi` and not the most recent one (i.e. `2.0.2`), we specified conretization preferences with `version: [1.8.8]`.
204
205 One can also specify which packages should be used to provide `mpi`, `blas/lapack` , preferred compilers and preferred variants:
206 ```
207 packages:
208   all:
209     compiler: [gcc,clang]
210     providers:
211       mpi: [openmpi]
212       blas: [openblas]
213       lapack: [openblas]
214     boost:
215       variants: +python
216 ```
217
218 For more elaborated discussion, see [Configuration Files in Spack](http://spack.readthedocs.io/en/latest/configuration.html).
219
220 ## Installing GCC
221 If your system does not provide any Fortran compiler or you want to have the most recent `gcc`,
222 you can install it by
223 ```
224 spack install gcc
225 ```
226
227 Assuming that you configured [Environment Modules](#environment-modules), load `gcc` and let Spack find the newly installed compilers:
228 ```
229 spack load gcc
230 spack compiler find
231 ```
232 Now you can install deal.II with `gcc`
233 ```
234 spack install dealii%gcc
235 ```
236
237 If you are on the mac, read the following instructions on [Mixed Toolchains](http://spack.readthedocs.io/en/latest/getting_started.html#mixed-toolchains).
238
239 On following these instructions, you will be able to install deal.II with clang+gfortran
240 ```
241 spack install dealii%clang
242 ```
243
244 ## Best practices using Spack:
245
246 Spack is complicated and flexible package manager primarily aimed at High-Performance-Computing.
247 Below are some examples of using Spack to build and develop deal.II:
248
249 ### Info:
250 If you are not sure which options a given package has, simply run
251 ```
252 spack info <package>
253 ```
254 The output will contain available versions, variants, dependencies and description:
255 ```
256 $ spack info dealii
257 CMakePackage:   dealii
258
259 Description:
260     C++ software library providing well-documented tools to build finite
261     element codes for a broad variety of PDEs.
262
263 Homepage: https://www.dealii.org
264
265 Preferred version:  
266     8.5.1      https://github.com/dealii/dealii/releases/download/v8.5.1/dealii-8.5.1.tar.gz
267
268 Safe versions:  
269     develop    [git] https://github.com/dealii/dealii.git
270     8.5.1      https://github.com/dealii/dealii/releases/download/v8.5.1/dealii-8.5.1.tar.gz
271     8.5.0      https://github.com/dealii/dealii/releases/download/v8.5.0/dealii-8.5.0.tar.gz
272     8.4.2      https://github.com/dealii/dealii/releases/download/v8.4.2/dealii-8.4.2.tar.gz
273     8.4.1      https://github.com/dealii/dealii/releases/download/v8.4.1/dealii-8.4.1.tar.gz
274     8.4.0      https://github.com/dealii/dealii/releases/download/v8.4.0/dealii-8.4.0.tar.gz
275     8.3.0      https://github.com/dealii/dealii/releases/download/v8.3.0/dealii-8.3.0.tar.gz
276     8.2.1      https://github.com/dealii/dealii/releases/download/v8.2.1/dealii-8.2.1.tar.gz
277     8.1.0      https://github.com/dealii/dealii/releases/download/v8.1.0/dealii-8.1.0.tar.gz
278
279 Variants:
280     Name [Default]               Allowed values          Description
281
282
283     adol-c [off]                 True, False             Compile with Adol-c
284     arpack [on]                  True, False             Compile with Arpack and
285                                                          PArpack (only with MPI)
286     build_type [DebugRelease]    Debug, Release,         The build type to build
287                                  DebugRelease            
288     doc [off]                    True, False             Compile with documentation
289     gsl [on]                     True, False             Compile with GSL
290     hdf5 [on]                    True, False             Compile with HDF5 (only with
291                                                          MPI)
292     int64 [off]                  True, False             Compile with 64 bit indices
293                                                          support
294     metis [on]                   True, False             Compile with Metis
295     mpi [on]                     True, False             Compile with MPI
296     nanoflann [off]              True, False             Compile with Nanoflann
297     netcdf [on]                  True, False             Compile with Netcdf (only with
298                                                          MPI)
299     oce [on]                     True, False             Compile with OCE
300     optflags [off]               True, False             Compile using additional
301                                                          optimization flags
302     p4est [on]                   True, False             Compile with P4est (only with
303                                                          MPI)
304     petsc [on]                   True, False             Compile with Petsc (only with
305                                                          MPI)
306     python [on]                  True, False             Compile with Python bindings
307     slepc [on]                   True, False             Compile with Slepc (only with
308                                                          Petsc and MPI)
309     sundials [off]               True, False             Compile with Sundials
310     trilinos [on]                True, False             Compile with Trilinos (only
311                                                          with MPI)
312
313 Installation Phases:
314     cmake    build    install
315
316 Build Dependencies:
317     adol-c     cmake     hdf5     muparser    oce     slepc         trilinos
318     arpack-ng  doxygen   lapack   nanoflann   p4set   suite-sparse  zlib
319     blas       graphivz  metis    netcdf      petsc   sundials      
320     boost      gsl       mpi      netcdf-cxx  python  tbb
321
322 Link Dependencies:
323     adol-c     doxygen   lapack   nanoflann   p4est   suite-sparse  zlib
324     arpack-ng  graphviz  metis    netcdf      petsc   sundials      
325     blas       graphviz  mpi      netcdf-cxx  python  tbb
326     boost      hdf5      muparser oce         slepc   trilinos
327
328 Run Dependencies:
329     None
330
331 Virtual Packages: 
332     None
333 ```
334
335 A lot of `spack` commands have help, for example
336 ```
337 $ spack install -h
338 usage: spack install [-h] [--only {package,dependencies}] [-j JOBS]
339                      [--keep-prefix] [--keep-stage] [--restage] [-n] [-v]
340                      [--fake] [-f] [--clean | --dirty] [--run-tests]
341                      [--log-format {junit}] [--log-file LOG_FILE]
342                      ...
343
344 build and install packages
345
346 positional arguments:
347   package               spec of the package to install
348
349 optional arguments:
350   -h, --help            show this help message and exit
351   --only {package,dependencies}
352                         select the mode of installation. the default is to
353                         install the package along with all its dependencies.
354                         alternatively one can decide to install only the
355                         package or only the dependencies
356   -j JOBS, --jobs JOBS  explicitly set number of make jobs. default is #cpus
357   --keep-prefix         don't remove the install prefix if installation fails
358   --keep-stage          don't remove the build stage if installation succeeds
359   --restage             if a partial install is detected, delete prior state
360   -n, --no-checksum     do not check packages against checksum
361   -v, --verbose         display verbose build output while installing
362   --fake                fake install. just remove prefix and create a fake
363                         file
364   -f, --file            install from file. Read specs to install from .yaml
365                         files
366   --clean               clean environment before installing package
367   --dirty               do NOT clean environment before installing
368   --run-tests           run package level tests during installation
369   --log-format {junit}  format to be used for log files
370   --log-file LOG_FILE   filename for the log file. if not passed a default
371                         will be used
372 ```
373
374 ### Extra options:
375 One can specify extra options for packages in the deal.II suite. For example if you want to have boost with `python` module, this can be done by
376 ```
377 spack install dealii@develop+mpi~python ^boost+python
378 ```
379
380 If you want to specify blas/lapack/mpi implementations, this can be done similarly
381 ```
382 spack install dealii@develop+mpi ^mpich
383 ```
384 To check which packages implement `mpi` run
385 ```
386 spack providers mpi
387 ```
388 One can also specify which Blas/Lapack implementation to use. For example to build deal.II suite with `atlas` run
389 ```
390 spack install dealii ^atlas
391 ```
392
393 ### Compiler flags
394 You can specify compiler flags on the command line as
395 ```
396 spack install dealii cppflags="-march=native -O3"
397 ```
398 Note that these flags will be inherited by dependencies such as `petsc`, `trilinos`, etc. Same can be done by declaring these flags in `~/.spack/compilers.yaml`:
399 ```
400 compilers:
401 - compiler:
402     modules: []
403     operating_system: centos6
404     paths:
405       cc: /usr/bin/gcc
406       cxx: /usr/bin/g++
407       f77: /usr/bin/gfortran
408       fc: /usr/bin/gfortran
409     flags:
410       cflags: -O3 -fPIC
411       cxxflags: -O3 -fPIC
412       cppflags: -O3 -fPIC
413     spec: gcc@4.7.2
414 ```
415
416 If you want to use flags for `dealii` only, you can first build all the dependencies without flags and then build `dealii` with custom flags:
417 ```
418 spack install --only dependencies dealii
419 spack install dealii cppflags="-march=native -O3"
420 ```
421
422 See this [google forum topic](https://groups.google.com/forum/?fromgroups#!topic/dealii/3Yjy8CBIrgU) for discussion on which flags to use. You can also use `spack install dealii+optflags` to enable extra optimization flags in release build.
423
424 ### Different versions coexisting:
425 One can easily have slightly different versions of deal.II side-by-side, e.g. to compile development version of deal.II with complex-valued PETSc and `gcc` compiler run
426 ```
427 spack install dealii@develop+mpi+petsc~int64%gcc ^petsc+complex~hypre
428 ```
429 The good thing is that if you already have deal.ii built with real-valued petsc, then only `petsc`, `slepc` and `deal.ii` itself will be rebuild. Everything else (`trilinos`, `mumps`, `metis`, etc) will be reused.
430
431 One can use `environment-modules` (see above) to automatically set `DEAL_II_DIR` to the complex version: 
432 ```
433 spack load dealii@develop+mpi+petsc~int64%gcc ^petsc+complex~hypre
434 ```
435
436 ### Filesystem Views:
437 If you prefer to have the whole dealii suite (and possible something else) symlinked into a single path (like `/usr/local`), one can use [Filesystem Views](http://spack.readthedocs.io/en/latest/workflows.html#filesystem-views):
438 ```
439 spack view -v symlink dealii_suite dealii@develop
440 ```
441 You can also add to this view other packages, i.e.
442 ```
443 spack view -v symlink dealii_suite the-silver-searcher
444 ```
445
446
447 ### Check before build:
448 It is often convenient to check which version of packages, compilers, variants etc will be used before actually starting installation. That can be done by examining the concretized spec via `spack spec` command, e.g. 
449 ```
450 spack spec dealii@develop+mpi+petsc~int64%gcc ^petsc+complex~hypre
451 ```
452
453 The `spec` command has a useful flag `-I` which will show install status of dependencies in the graph.
454
455 ### Develop using Spack
456 Probably the easiest way to use Spack while contributing patches to the deal.II is the following. 
457 Install `deal.II` via Spack, go to its installation prefix and copy-paste the CMake command from `.spack/build.out`, which looks like
458 ```
459 'cmake' '/path/to/spack/var/spack/stage/dealii-develop-tkowxhk55kpi7facfh3ufipofyolt6h7/dealii' '-DCMAKE_INSTALL_PREFIX:PATH=path/to/spack/opt/spack/darwin-sierra-x86_64/clang-8.1.0-apple/dealii-develop-tkowxhk55kpi7facfh3ufipofyolt6h7' '-DCMAKE_BUILD_TYPE:STRING=DebugRelease' <more options>
460 ```
461 You would need to adjust the path to the `dea.II` source folder (first path) and should remove the `DCMAKE_INSTALL_PREFIX` as you probably don't want to accidentally override the version installed by Spack. 
462
463 Assuming that your build folder is within the `dealii` sources (tha'ts what `..\/` is for below), you can get this substitution done by
464 ```
465 $ cat $(spack location -i dealii)/.spack/build.out | grep "==> 'cmake'" | sed -e "s/[^ ]*[^ ]/'..\/'/3" | cut -d " " -f2-
466 ```
467
468 Before running `cmake` from the build folder, you may want to run 
469 ```
470 spack env dealii@develop+mpi^openmpi^openblas bash
471 ```
472 to make sure your environment (paths, variables, etc) is set exactly the same way as when compiling `deal.II` from Spack
473 (adjust the spec `dealii@develop+mpi^openmpi^openblas` to be what you use when you installed `deal.II`).
474
475 An alternative is to create a [Filesystem view](#filesystem-views) for an already installed library and then compile patched version of deal.II manually by providing path to the view for each dependency. 
476
477 ### Keep the stage to run unit tests
478 By default, the build folder (aka `stage`) for each package is created in a temporary system dependent location.
479 This gets purge by system on next restart.
480 If you want to keep the stage after the installation, you need to do two things:
481 First, make spack use a custom location for stage by adding the following to your `~/.spack/config.yaml`:
482 ```
483 config:
484   build_stage:
485     - $spack/var/spack/stage
486 ```
487 Second, prescribe an extra argument to `install` command to keep the stage after successful installation:
488 ```
489 spack install --keep-stage dealii@develop
490 ```
491
492 ### MKL and Licensed software
493 Spack supports installation of [licensed software](http://spack.readthedocs.io/en/latest/packaging_guide.html#license) as well as usage of [Licensed compilers](http://spack.readthedocs.io/en/latest/getting_started.html#licensed-compilers). For example in order to install MKL on Linux:
494
495 1. add `Intel` license file as `license.lic` file to `${SPACK_ROOT}/etc/spack/licenses/intel/`.
496 2. run `spack install dealii ^intel-mkl@11.3.2.210`
497
498 In order to configure Intel compilers see [this page](http://spack.readthedocs.io/en/latest/getting_started.html#vendor-specific-compiler-configuration).
499
500
501 ### Freeze package versions
502 Currently Spack does not try to re-use already installed packages. On another hand, by default
503 the most recent version of a package will be installed. When updating deal.II build (for example to use the new version of `trilinos`), the combination of the two factors may lead to recompilation of many other packages used in the deal.II suite when one of the main build dependency like `cmake` has a new version.
504
505 To circumvent the problem, the user can specify preferred versions of packages in `~/.spack/packages.yaml`:
506 ```
507 packages:
508   cmake:
509     version: [3.6.1]
510   curl:
511     version: [7.50.3]
512   openssl:
513     version: [1.0.2j]
514   python:
515     version: [2.7.12]
516 ```
517 This settings will be taken into account during conretization process and thus will help to avoid rebuilding most of the deal.II suite when, for example, `openssl` is updated to the new version.
518
519 ## Known issues using Spack:
520
521 ### Incompatible CMake versions
522
523 At the moment there is an incompatibility between deal.II and `cmake` with version 3.10 and greater.
524 To install deal.II using an earlier version of `cmake`, either use the `packages.yaml` file to freeze `cmake` to an earlier version, or specify the version at install time, e.g.
525 ```
526 spack install dealii^cmake@3.9.4
527 ```

In the beginning the Universe was created. This has made a lot of people very angry and has been widely regarded as a bad move.

Douglas Adams


Typeset in Trocchi and Trocchi Bold Sans Serif.