En maths approfondies, la notion d’orthogonalité entre deux espaces vectoriels est fondamentale dès qu’on aborde les sous-espaces d’un espace euclidien. Dans les exercices de prépa ECG, cette notion revient constamment, que ce soit dans les questions sur les projections orthogonales, les dimensions ou les changements de base. Savoir démontrer que deux sous-espaces \(F\) et \(G\) sont deux sous-espaces orthogonaux, c’est maîtriser à la fois la théorie et la pratique du produit scalaire. C’est-à-dire comprendre la géométrie cachée derrière les équations. Mais comment prouver concrètement que deux sous-espaces sont orthogonaux ? Cet article te propose de revoir les définitions, de comprendre les différentes méthodes de démonstration et de voir comment les appliquer efficacement en devoir ou en concours.
Définition
Soit \(E\) un espace vectoriel de dimension finie, muni d’un produit scalaire \(\langle \cdot , \cdot \rangle\).
Un tel espace est appelé espace euclidien.
Deux vecteurs \(x, y \in E\) sont dits orthogonaux si leur produit scalaire est nul :
\[
\langle x , y \rangle = 0.
\]
On note alors \(x \perp y\).
Soient \(F\) et \(G\) deux sous-espaces vectoriels de \(E\).
On dit que \(F\) et \(G\) sont orthogonaux, et on note \(F \perp G\), si :
\[
\forall x \in F, \ \forall y \in G, \ \langle x , y \rangle = 0.
\]
Cette définition va être au cœur de notre première méthode ci-dessous.
Méthode n° 1 : Vérifier la définition directement
C’est la méthode la plus simple et la plus intuitive.
On exprime un vecteur \(x \in F\) et un vecteur \(y \in G\) à l’aide de générateurs connus.
On calcule \(\langle x , y \rangle\).
On montre qu’il vaut 0 pour tout choix des coefficients.
Exemple
Dans \(\mathbb{R}^3\), soient
\[
F = \mathrm{Vect}((1,1,0)), \quad G = \mathrm{Vect}((1,-1,0)).
\]
Pour tout \(x = \alpha(1,1,0) \in F\) et \(y = \beta(1,-1,0) \in G\),
\[
\langle x , y \rangle = \alpha\beta(1\cdot 1 + 1\cdot (-1) + 0\cdot 0) = 0.
\]
Ainsi, \(F \perp G\).
Cette méthode, bien que rudimentaire, reste un excellent point de départ dans une démonstration. Elle permet de s’appuyer uniquement sur la définition de l’orthogonalité, sans invoquer de théorème ni de propriété de structure.
Dans les exercices, elle est particulièrement utile lorsque les sous-espaces sont de dimension 1 ou 2, car les calculs de \(\langle x , y \rangle\) se font très rapidement.
Pour des sous-espaces de dimensions plus grandes, on privilégiera les méthodes suivantes, plus élégantes et plus puissantes.
Méthode n° 2 : Utiliser les bases des sous-espaces
Quand les sous-espaces sont donnés par des bases, la vérification est immédiate si les bases sont orthogonales entre elles.
D’après le cours :
Soient \((u_1, \dots, u_p)\) une base de \(F\) et \((v_1, \dots, v_q)\) une base de \(G\).
Si pour tout couple \((i,j)\), \(\langle u_i , v_j \rangle = 0\), alors \(F \perp G\).
Démonstration
Soient \((u_1, \dots, u_p)\) une base de \(F\) et \((v_1, \dots, v_q)\) une base de \(G\).
Soit \(x = \sum_{i=1}^p \alpha_i u_i \in F\) et \(y = \sum_{j=1}^q \beta_j v_j \in G\).
Par bilinéarité du produit scalaire :
\[
\langle x , y \rangle = \sum_{i=1}^p \sum_{j=1}^q \alpha_i \beta_j \langle u_i , v_j \rangle = 0.
\]
Ainsi par définition, on a que \(F \perp G\).
Exemple
Considérons \(\mathbb{R}^3\) muni du produit scalaire canonique :
\[
\langle (x,y,z), (x’,y’,z’) \rangle = xx’ + yy’ + zz’.
\]
Soient les sous-espaces :
\[
F = \mathrm{Vect}((1,1,0), (0,0,1)) \quad \text{et} \quad G = \mathrm{Vect}((1,-1,0)).
\]
On souhaite vérifier si \(F\) et \(G\) sont orthogonaux.
Les bases respectives sont :
\[
(u_1, u_2) = ((1,1,0), (0,0,1)) \quad \text{pour } F,
\]
\[
(v_1) = ((1,-1,0)) \quad \text{pour } G.
\]
Calculons les produits scalaires :
\[
\langle u_1, v_1 \rangle = 1 \cdot 1 + 1 \cdot (-1) + 0 \cdot 0 = 0,
\]
\[
\langle u_2, v_1 \rangle = 0 \cdot 1 + 0 \cdot (-1) + 1 \cdot 0 = 0.
\]
Tous les produits scalaires entre les vecteurs des deux bases sont nuls. D’après la propriété du cours, cela entraîne que \(F \perp G\).
Ainsi, tout vecteur de \(F\) est orthogonal à tout vecteur de \(G\), puisque les bases de \(F\) et \(G\) sont orthogonales entre elles.
Remarque : cette méthode est particulièrement rapide lorsque les sous-espaces sont donnés sous forme explicite, car elle ne nécessite ni système d’équations ni raisonnement abstrait, seulement quelques produits scalaires simples.
Méthode n° 3 : À partir d’une famille génératrice de \(F\)
Cette méthode consiste à utiliser les vecteurs qui engendrent \(F\).
Elle repose sur une propriété essentielle du cours.
Soit \((E, \langle \cdot , \cdot \rangle)\) un espace euclidien réel et \(F\) un sous-espace de \(E\).
Si \(F = \mathrm{Vect}(u_1, \dots, u_p)\), alors :
\[
x \in F^\perp \iff \forall i \in \{1, \dots, p\}, \ \langle x , u_i \rangle = 0.
\]
Démonstration
Par définition, \(x \in F^\perp\) signifie :
\[
\forall y \in F, \ \langle x , y \rangle = 0.
\]
Or, tout vecteur \(y \in F\) s’écrit \(y = \sum_{i=1}^p \alpha_i u_i\).
Alors, par bilinéarité du produit scalaire :
\[
\langle x , y \rangle = \sum_{i=1}^p \alpha_i \langle x , u_i \rangle.
\]
Si cette somme est nulle pour tout choix des coefficients \(\alpha_i\), cela implique nécessairement que tous les \(\langle x , u_i \rangle\) sont nuls.
La réciproque est immédiate, donc l’équivalence est prouvée.
Interprétation
Soient \(F = \mathrm{Vect}(u_1, \dots, u_p)\) et \(G\) deux sous-espaces vectoriels de \(E\).
Alors :
\[
F \perp G \iff \forall x \in G, \ \forall i \in \{1, \dots, p\}, \ \langle x , u_i \rangle = 0.
\]
En effet, la première implication est immédiate et on a également que si \(\forall x \in G, \ \forall i \in \{1, \dots, p\}, \ \langle x , u_i \rangle = 0\) alors \(G \subset F^\perp\) et donc \(F \perp G\).
Autrement dit, \(G\) est orthogonal à \(F\) si et seulement si tous les vecteurs de \(G\) sont orthogonaux à une famille génératrice de \(F\).
Remarque : cette méthode fait le lien entre la définition géométrique et l’expression analytique du produit scalaire. Elle permet d’utiliser directement les générateurs de \(F\) sans recourir à une base complète de l’espace \(E\).
C’est donc une méthode à la fois souple et rigoureuse, particulièrement adaptée lorsqu’on dispose déjà d’une famille génératrice naturelle, comme dans les espaces définis par des contraintes linéaires. En pratique, cette approche est très utile pour construire ou vérifier des sous-espaces orthogonaux dans les questions de géométrie vectorielle (que l’on peut retrouver à l’oral).
Méthode n° 4 : À partir des familles génératrices de \(F\) et \(G\)
Cette méthode est une conséquence directe de la définition du produit scalaire et de la linéarité. Elle est très utile lorsque les deux sous-espaces \(F\) et \(G\) sont donnés sous forme de familles génératrices.
Soient \(F = \mathrm{Vect}(u_1, \dots, u_p)\) et \(G = \mathrm{Vect}(v_1, \dots, v_q)\) deux sous-espaces vectoriels d’un espace euclidien \(E\).
Alors :
\[
F \perp G \iff \forall i \in \{1, \dots, p\}, \ \forall j \in \{1, \dots, q\}, \ \langle u_i , v_j \rangle = 0.
\]
Démonstration
\(\Rightarrow\) Si \(F \perp G\), alors pour tout \(u_i \in F\) et tout \(v_j \in G\), on a \(\langle u_i , v_j \rangle = 0\) par définition de l’orthogonalité.
\(\Leftarrow\) Réciproquement, supposons que \(\langle u_i , v_j \rangle = 0\) pour tous \(i,j\).
Soient \(x \in F\) et \(y \in G\). On peut écrire :
\[
x = \sum_{i=1}^p \alpha_i u_i, \qquad y = \sum_{j=1}^q \beta_j v_j.
\]
Par bilinéarité du produit scalaire :
\[
\langle x , y \rangle = \sum_{i=1}^p \sum_{j=1}^q \alpha_i \beta_j \langle u_i , v_j \rangle.
\]
Or, tous les \(\langle u_i , v_j \rangle\) sont nuls, donc \(\langle x , y \rangle = 0\).
Ainsi, \(F \perp G.\)
Exemple
Dans \(\mathbb{R}^3\), muni du produit scalaire canonique :
\[
\langle (x,y,z), (x’,y’,z’) \rangle = xx’ + yy’ + zz’,
\]
on considère :
\[
F = \mathrm{Vect}((1,1,0), (0,1,1)), \quad G = \mathrm{Vect}((1,-1,0)).
\]
Étape 1 : Vérification des produits scalaires
On calcule les produits scalaires entre les générateurs de \(F\) et \(G\) :
\[
\langle (1,1,0), (1,-1,0) \rangle = 1 – 1 + 0 = 0,
\]
\[
\langle (0,1,1), (1,-1,0) \rangle = 0 – 1 + 0 = -1.
\]
Tous les produits ne sont pas nuls : le second produit scalaire vaut \(-1\).
On en conclut que \(F\) et \(G\) ne sont pas orthogonaux.
Étape 2 : Modification de \(G\)
Prenons maintenant :
\[
G”- = \mathrm{Vect}((1,-1,1)).
\]
Alors :
\[
\langle (1,1,0), (1,-1,1) \rangle = 1 – 1 + 0 = 0, \quad \langle (0,1,1), (1,-1,1) \rangle = 0 – 1 + 1 = 0.
\]
Tous les produits sont nuls : on obtient donc \(F \perp G’\).
Conclusion de l’exemple
On a bien vérifié que :
\[
\forall u_i \in F, \ \forall v_j \in G’, \ \langle u_i , v_j \rangle = 0
\]
Ce qui prouve que \(F\) et \(G’\) sont orthogonaux.
Cette méthode est particulièrement rapide lorsque les deux sous-espaces sont donnés par des vecteurs explicites.
Remarque : cette méthode est une généralisation élégante de la précédente. Au lieu de se concentrer sur les générateurs d’un seul sous-espace, elle exploite ceux des deux simultanément. Elle montre comment la bilinéarité du produit scalaire relie l’ensemble des combinaisons linéaires possibles de \(F\) et \(G\).
C’est la méthode de prédilection pour les exercices où les sous-espaces sont explicitement donnés par des vecteurs concrets, car elle traduit directement la définition. C’est donc une méthode à prioriser. On aurait pu l’appliquer dès le premier exemple de la méthode 1.
Méthode n° 5 : Passer par le sous-espace orthogonal \(F^\perp\)
C’est la méthode la plus conceptuelle et élégante.
Le sous-espace orthogonal de \(F\) est défini par :
\[
F^\perp = \{x \in E \mid \forall y \in F, \ \langle x , y \rangle = 0\}.
\]
Alors, pour montrer que \(F\) et \(G\) sont orthogonaux, il suffit de prouver que :
\[
G \subset F^\perp.
\]
Exemple
Dans \(\mathbb{R}^3\) muni du produit scalaire usuel, considérons les sous-espaces
\[
F = \mathrm{Vect}((1,2,0))
\]
et
\[
G = \mathrm{Vect}((-2,1,0))
\]
Étape 1 : Détermination de \(F^\perp\)
Par définition,
\[
F^\perp = \{(x,y,z) \in \mathbb{R}^3 \mid \langle (x,y,z), (1,2,0) \rangle = 0 \}.
\]
Calculons explicitement la condition :
\[
\langle (x,y,z), (1,2,0) \rangle = 1 \cdot x + 2 \cdot y + 0 \cdot z = x + 2y.
\]
On obtient donc :
\[
F^\perp = \{(x,y,z) \in \mathbb{R}^3 \mid x + 2y = 0\}.
\]
On peut réécrire tout vecteur de \(F^\perp\) sous la forme :
\[
(x,y,z) = (-2y, y, z) = y(-2,1,0) + z(0,0,1).
\]
Ainsi :
\[
F^\perp = \mathrm{Vect}((-2,1,0), (0,0,1)).
\]
On remarque que \(G \subset F^\perp\) mais \(G \neq F^\perp\), puisque \(F^\perp\) est de dimension 2 et \(G\) de dimension 1.
Étape 2 : Vérifions l’orthogonalité
Soit \(x = \alpha(1,2,0) \in F\) et \(y = \beta(-2,1,0) \in G\).
Alors :
\[
\langle x , y \rangle = \alpha\beta(1 \cdot (-2) + 2 \cdot 1 + 0 \cdot 0) = \alpha\beta(-2 + 2) = 0.
\]
Ainsi, tout vecteur de \(F\) est orthogonal à tout vecteur de \(G\).
Conclusion
On a bien \(G \subset F^\perp\), donc \(F \perp G\), mais les deux sous-espaces ne sont pas égaux.
Cet exemple illustre clairement « qu’être orthogonal à un espace » ne signifie pas forcément être tout son orthogonal.
Conclusion
Tu connais désormais les cinq méthodes au programme pour montrer que deux sous-espaces vectoriels sont orthogonaux. Elles vont du calcul direct à la démonstration abstraite. Les méthodes 1 à 3 sont très calculatoires, tandis que les méthodes 4 et 5 sont plus théoriques.
En colles ou en concours, savoir alterner entre ces approches selon le contexte va être nécessaire, car toutes les méthodes ne fonctionnent pas toujours. Tu devras donc bien connaître ces méthodes pour toujours choisir la meilleure.
N’hésite pas à appliquer ces méthodes sur des exercices d’applications ou des exercices d’annales (EDHEC/EML/Ecricome). Je te renvoie pour cela à notre méga-répertoire d’annales disponible gratuitement.
