Definiamo spazio vettoriale (o spazio lineare) $V$ nel campo $K$ un insieme di elementi, denominati vettori, su cui sono definite un'operazione di somma tra vettori ed un'operazione di prodotto di un vettore per uno scalare appartenente a $K$.

L'operazione di somma deve godere delle seguenti proprietà:

• commutativa, $\forall \, \mathbf{x}, \mathbf{y} \in V$, $\mathbf{x} + \mathbf{y} = \mathbf{y} + \mathbf{x}$
• associativa, $\forall \, \mathbf{x}, \mathbf{y}, \mathbf{z} \in V$, $(\mathbf{x} + \mathbf{y}) + \mathbf{z} = \mathbf{x} + (\mathbf{y} + \mathbf{z})$
• esistenza vettore nullo, $\exists \, \mathbf{0} \in V$ tale che $\forall \mathbf{x} \in V$, $\mathbf{x} + \mathbf{0} = \mathbf{x}$;
• esistenza ed unicità del vettore opposto, $\forall \, \mathbf{x} \in V, \exists ! \, - \mathbf{x}$ tale che $\mathbf{x} + (- \mathbf{x}) = \mathbf{0}$

L'operazione di prodotto per uno scalare deve godere delle seguenti proprietà:

• associativa, $\forall \mathbf{x} \in V$, $\forall \alpha, \beta \in K$, $\alpha \, (\beta \, \mathbf{x}) = (\alpha \, \beta) \, \mathbf{x}$
• $\exists \, 1 \in K$ tale che $\forall \mathbf{x} \in V$, $1 \; \mathbf{x} = \mathbf{x}$
• $\exists \, 0 \in K$ tale che $\forall \mathbf{x} \in V$, $0 \; \mathbf{x} = \mathbf{0}$, in cui $\mathbf{0}$ è il vettore nullo definito sopra
• distributiva rispetto alla somma in $K$, $\forall \mathbf{x} \in V$, $\forall \alpha, \beta \in K$, $(\alpha + \beta) \, \mathbf{x} = \alpha \, \mathbf{x} + \beta \, \mathbf{x}$,
• distributiva rispetto alla somma in $V$, $\forall \mathbf{x}, \mathbf{y} \in V$, $\forall \alpha \in K$, $\alpha \, (\mathbf{x} + \mathbf{y}) = \alpha \, \mathbf{x} + \alpha \, \mathbf{y}$

Definiamo norma di uno spazio vettoriale un operatore che associa ad ogni elemento dello spazio un numero reale non negativo. Tale operatore deve godere delle seguenti proprietà

• $\lVert \mathbf{x} \rVert \ge 0$
• $\lVert \mathbf{x} \rVert = 0 \Leftrightarrow \mathbf{x} = \mathbf{0}$
• $\lVert \mathbf{x} + \mathbf{y} \rVert \le \lVert \mathbf{x} \rVert + \lVert \mathbf{y} \rVert$
• $\lVert \alpha \, \mathbf{x} \rVert = \lvert \alpha \rvert \, \lVert \mathbf{x} \rVert$

La coppia dello spazio vettoriale con la norma è detto spazio normato.

Nel caso lo spazio vettoriale oggetto del nostro studio sia quello dei segnali complessi, possiamo definire la norma

$\lVert \mathbf{x} \rVert = \sqrt { \int\limits_{T} \lvert x(t) \rvert ^2 \; \mathrm{d} t }$

in cui $\lvert x(t) \rvert$ è il modulo del segnale complesso $x(t)$.

Definiamo prodotto scalare sullo spazio vettoriale $V$, una forma bilineare simmetrica che associa a due vettori $\mathbf{v}, \mathbf{w} \in V$ uno scalare appartenente al campo associato. Nel seguito lo indicheremo nella forma $\mathbf{v} \cdot \mathbf{w}$

Tale operatore binario deve verificare due proprietà:

• Simmetria, $\mathbf{u} \cdot \mathbf{v} = \mathbf{v} \cdot \mathbf{u}$
• Linearità rispetto al primo termine, $(\mathbf{u}+\mathbf{v}) \cdot \mathbf{w} = \mathbf{u} \cdot \mathbf{w} + \mathbf{u} \cdot \mathbf{w}$ e $(\lambda \, \mathbf{u}) \cdot \mathbf{v} = \lambda (\mathbf{u} \cdot \mathbf{v})$

Nel caso in cui il campo scalare sia l'insieme $\mathbb{R}$ dei numeri reali, il prodotto scalare può essere

• definito positivo se $\forall \, \mathbf{v} \ne \mathbf{0}, \; \mathbf{v} \cdot \mathbf{v} > 0$
• definito negativo se $\forall \, \mathbf{v} \ne \mathbf{0}, \; \mathbf{v} \cdot \mathbf{v} < 0$
• semidefinito positivo se $\forall \, \mathbf{v} \ne \mathbf{0}, \; \mathbf{v} \cdot \mathbf{v} \ge 0$
• semidefinito negativo se $\forall \, \mathbf{v} \ne \mathbf{0}, \; \mathbf{v} \cdot \mathbf{v} \le 0$

Nel caso di prodotto scalare definito positivo, possiamo definire la norma

$$\lVert \mathbf{x} \rVert = \sqrt{\mathbf{x} \cdot \mathbf{x}}$$

Nel caso in cui il nostro spazio vettoriale coincida con lo spazio dei segnali, possiamo definire il prodotto scalare

$$\mathbf{x} \cdot \mathbf{y} = \int\limits_{T} x(t) \, \overline{y}(t) \mathrm{d} t$$