Few comments on current matrix-free implementation and missing features
[dealii.wiki.git] / Tensor-product-structures-for-polynomials-and-quadrature.md
1 # Rationale
2
3 Most of the local objects in dealii have a tensor product
4 structure. Quadrature formulas are tensor products of one-dimensional
5 formulas. Shape functions are tensor products of polynomials in
6 different coordinate directions. Even spaces like Nédéléc and
7 Raviart-Thomas have such structures in each component. Katharina
8 Kormann and Martin Kronbichler have shown that exploiting these
9 structures can boost performance of local integrals
10 considerably. Therefore, adapting finite element and quadrature
11 classes to their concepts is a valuable task.
12
13 An important ingredient required for the optimization of local
14 integrals is that the length of all loops is known at compile
15 time. Therefore, the number of quadrature points and the number of
16 shape functions must become template arguments.
17
18 The class `FEValues` was originally introduced to allow for
19 optimizations based on the internal structure of finite element shape
20 function spaces, but this was never exploited. Additionally, `FEValues`
21 stores a lot of data to avoid recomputation. Data, which is highly
22 redundant. At a time where computers had a single working thread and
23 computations were expensive, this was in part justified. Now, that
24 most algorithms become memory-bound, we must consider retiring
25 `FEValues`.
26
27 ## Discussion
28
29 - Implementation of *hp* methods
30 - Efficient implementation of methods where we do not have tensor
31   product structure
32   - XFEM
33   - Overlapping nonmatching grids
34 - Note: *hp* adaptivity is supported by the `FEEvaluation` class.
35
36 ## Design and limitations of the `FEEvaluation` class
37
38 The matrix-free implementation uses the class `FEEvaluation` instead of `FEValues`. Different from the `FEValues` class, information about the degrees of freedom and the mapping from physical to unit cell is precomputed and stored. The degrees of freedom are numbered MPI-local and the constraints are incorporated into the DoF list in order to provide direct array access into vectors.
39 This enables e.g. fast evaluation of the shape functions at the quadrature points. On the other hand, only values, gradients, etc. that are precomputed can be accessed while the `FEValues` object enables on-the-fly computations of more general evaluations.
40 The main task would therefore be to merge the different functionalities of the two classes.
41
42
43 # Tensor product quadrature
44
45 It is suggested to introduce a new class template inheriting from
46 `Quadrature`, say `TensorProductQuadrature`. In a compatibility mode,
47 this class fills the fields in `Quadrature` (deferred execution
48 preferred). Quadrature points are stored in a `TensorProductPoints`,
49 where the access operator `[]` returns a `Point<dim>` created on the
50 fly. Additionally, it allows direct access to the one-dimensional
51 point sets. Similarly, we can consider a class `TensorProductWeights`.
52
53 Note that while we are currently not making use of this (?),
54 `Quadrature` is not restricted to tensor products. Therefore,
55 `TensorProductQuadrature` is not going to be an equivalent
56 replacement.
57
58 ## Discussion
59
60 * We will need anisotropic tensor products. Do we want an isotropic
61   class as well?
62 * If anisotropic, are variadic templates the only option?
63 * The order of the quadrature point (do we make any assumptions yet?)
64   - Currently: lexicographic, low to high abscissa
65   - Low to high weight for numerical stability?
66   - End points of intervals first to conform to finite elements?
67 * Not inheriting from `Quadrature` would on one hand mean that we have
68   two independent quadrature sets, on the other hand we would not need
69   to link to the library, which is important for off-loading.
70
71 ## Draft of the classes
72
73 The convention for the indices shall be that `d=1,...,dim`, `di`
74 enumerates the coordinates in direction `d`, and `i` enumerates all
75 quadrature points.
76
77 ```
78 template <typename number, int dim, int...>
79 class TensorProductPoints
80 {
81   public:
82     template <typename number2>
83     void set_coordinates (const unsigned int d, const std::vector<number2>&);
84     
85     number operator() (const unsigned int d, const unsigned int di) const;
86     Point<dim> point(const unsigned int i) const;
87 };
88 ```
89
90 The class `TensorProductWeights` is similar and
91 `TensorProductQuadrature` combines the two.
92
93 # Tensor product structure of polynomials
94
95 As Katharina and Martin point out, combining tensor product quadrature
96 with tensor product polynomials can generate very efficient code. This
97 has been known to the spectral element community for a while, but
98 widely ignored by us. It is implemented in the matrix free framework,
99 but only for certain elements and with limited functionality. One goal
100 of these new structures is making efficient matrix free computations
101 available throughout the library.
102
103 ### Example: Lagrange polynomials
104
105 Given polynomials of degree `p-1` and `q` quadrature points in each
106 direction, the current `FEValues` in 3D computes and stores `p^3 q^3`
107 shape function values, three times as many derivatives and nine times
108 as many second derivatives. In (isotropic) tensor product
109 representation, we need `p q` values, derivatives, and second
110 derivatives. This means, that now even higher derivatives and 4D become
111 feasible. As for computation of these values, some polynomial spaces
112 allow for a recursive computation of the values of higher order
113 members. Thus, here is another point where we can reduce the
114 computational complexity by a factor up to `p`.
115
116 ### Example: vector valued elements
117
118 `FE_Nedelec` as well as `FE_RaviartThomas` can be implemented such
119 that each component is an anisotropic tensor product.
120
121 ### Example: `FE_DGP`
122
123 This example differs from the previous ones in that all multivariate
124 polynomials are still products of 1D ones, but that not all possible
125 combinations are admitted. This is true for serendipity elements as
126 well. For these we need truncated tensor products.
127
128 ## Discussion
129
130 - The matrix free code currently does a renumbering to tensor product
131   numbering of the shape functions, which is the inversion of a
132   similar process when we generate the functions. Should we reconsider
133   the ordering in `DoFHandler`?
134 - `FEEvaluation` currently knows the elements `FE_Q`, `FE_DGQ`, `FE_DGP` and `FE_Q_DG0`.

In the beginning the Universe was created. This has made a lot of people very angry and has been widely regarded as a bad move.

Douglas Adams


Typeset in Trocchi and Trocchi Bold Sans Serif.