Definiamo spazio vettoriale (o spazio lineare) $V$ nel campo $K$ un insieme di elementi, denominati vettori, su cui sono definite un'operazione di somma tra vettori ed un'operazione di prodotto di un vettore per uno scalare appartenente a $K$.

L'operazione di somma deve godere delle seguenti proprietà:

• commutativa, $\forall \, \mathbf{x}, \mathbf{y} \in V$, $\mathbf{x} + \mathbf{y} = \mathbf{y} + \mathbf{x}$
• associativa, $\forall \, \mathbf{x}, \mathbf{y}, \mathbf{z} \in V$, $(\mathbf{x} + \mathbf{y}) + \mathbf{z} = \mathbf{x} + (\mathbf{y} + \mathbf{z})$
• esistenza vettore nullo, $\exists \, \mathbf{0} \in V$ tale che $\forall \mathbf{x} \in V$, $\mathbf{x} + \mathbf{0} = \mathbf{x}$;
• esistenza ed unicità del vettore opposto, $\forall \, \mathbf{x} \in V, \exists ! \, - \mathbf{x}$ tale che $\mathbf{x} + (- \mathbf{x}) = \mathbf{0}$

L'operazione di prodotto per uno scalare deve godere delle seguenti proprietà:

• associativa, $\forall \mathbf{x} \in V$, $\forall \alpha, \beta \in K$, $\alpha \, (\beta \, \mathbf{x}) = (\alpha \, \beta) \, \mathbf{x}$
• $\exists \, 1 \in K$ tale che $\forall \mathbf{x} \in V$, $1 \; \mathbf{x} = \mathbf{x}$
• $\exists \, 0 \in K$ tale che $\forall \mathbf{x} \in V$, $0 \; \mathbf{x} = \mathbf{0}$, in cui $\mathbf{0}$ è il vettore nullo definito sopra
• distributiva rispetto alla somma in $K$, $\forall \mathbf{x} \in V$, $\forall \alpha, \beta \in K$, $(\alpha + \beta) \, \mathbf{x} = \alpha \, \mathbf{x} + \beta \, \mathbf{x}$,
• distributiva rispetto alla somma in $V$, $\forall \mathbf{x}, \mathbf{y} \in V$, $\forall \alpha \in K$, $\alpha \, (\mathbf{x} + \mathbf{y}) = \alpha \, \mathbf{x} + \alpha \, \mathbf{y}$

Sia $V$ uno spazio vettoriale su un campo $K$. L'insieme di vettori $\left\{ \mathbf{v}_1, \mathbf{v}_2 \dots \mathbf{v}_n \right\}$, con $\mathbf{v}_i \in V$, è una base di $V$ se valgono le seguenti proprietà:

• i vettori $\mathbf{v}_i$ sono linearmente indipendenti in $K$: $\sum \limits_{i=1}^n a_i \mathbf{v}_i = \mathbf{0} \Leftrightarrow a_i = 0, \, i = 1, 2 \dots n$
• i vettori $\mathbf{v}_i$ generano $V$: $\forall \mathbf{v} \in V, \, \exists \left( a_1, a_2 \dots a_n \right) \in K^n \; | \; \mathbf{v} = \sum \limits_{i=1}^n a_i \mathbf{v}_i $

Chiameremo i numeri $a_1 , a_2 \dots a_n$ le coordinate di $\mathbf{v}$ rispetto alla base scelta.

Definiamo norma di uno spazio vettoriale un operatore che associa ad ogni elemento dello spazio un numero reale non negativo. Tale operatore deve godere delle seguenti proprietà

• $\lVert \mathbf{x} \rVert \ge 0$
• $\lVert \mathbf{x} \rVert = 0 \Leftrightarrow \mathbf{x} = \mathbf{0}$
• $\lVert \mathbf{x} + \mathbf{y} \rVert \le \lVert \mathbf{x} \rVert + \lVert \mathbf{y} \rVert$
• $\lVert \alpha \, \mathbf{x} \rVert = \lvert \alpha \rvert \, \lVert \mathbf{x} \rVert$

La coppia (spazio vettoriale, norma) è detto spazio normato.

Nel caso lo spazio vettoriale oggetto del nostro studio sia quello dei segnali complessi, possiamo definire la norma

$\lVert \mathbf{x} \rVert = \sqrt { \int\limits_{T} \lvert x(t) \rvert ^2 \; \mathrm{d} t }$

in cui $\lvert x(t) \rvert$ è il modulo del segnale complesso $x(t)$.

Definiamo prodotto scalare sullo spazio vettoriale $V$, una forma bilineare simmetrica che associa a due vettori $\mathbf{v}, \mathbf{w} \in V$ uno scalare appartenente al campo associato. Nel seguito lo indicheremo nella forma $\mathbf{v} \cdot \mathbf{w}$

Tale operatore binario deve verificare due proprietà:

• Simmetria, $\mathbf{u} \cdot \mathbf{v} = \mathbf{v} \cdot \mathbf{u}$
• Linearità rispetto al primo termine, $(\mathbf{u}+\mathbf{v}) \cdot \mathbf{w} = \mathbf{u} \cdot \mathbf{w} + \mathbf{u} \cdot \mathbf{w}$ e $(\lambda \, \mathbf{u}) \cdot \mathbf{v} = \lambda (\mathbf{u} \cdot \mathbf{v})$

Nel caso in cui il campo scalare sia l'insieme $\mathbb{R}$ dei numeri reali, il prodotto scalare può essere

• definito positivo se $\forall \, \mathbf{v} \in V, \mathbf{v} \ne \mathbf{0}, \; \mathbf{v} \cdot \mathbf{v} > 0$
• definito negativo se $\forall \, \mathbf{v} \in V, \mathbf{v} \ne \mathbf{0}, \; \mathbf{v} \cdot \mathbf{v} < 0$
• semidefinito positivo se $\forall \, \mathbf{v} \in V , \; \mathbf{v} \cdot \mathbf{v} \ge 0$
• semidefinito negativo se $\forall \, \mathbf{v} \in V , \; \mathbf{v} \cdot \mathbf{v} \le 0$

Nel caso di prodotto scalare semidefinito positivo, possiamo definire la norma

$$\lVert \mathbf{x} \rVert = \sqrt{\mathbf{x} \cdot \mathbf{x}}$$

Nel caso in cui il nostro spazio vettoriale coincida con lo spazio dei segnali, un possibile prodotto scalare è il seguente

$$\mathbf{x} \cdot \mathbf{y} = \int\limits_{T} x(t) \, \overline{y}(t) \, \mathrm{d} t$$

Si può verificare infatti che verifica i requisiti sopra esposti.