Le produit scalaire de deux vecteurs dans l’espace est une extension naturel de la notion de produit scalaire de deux vecteurs dans le plan. La notion de vecteurs orthogonaux et la caractérisation de l’orthogonalité dans l’espace sont presque identiques et ont les mêmes propriétés, avec une dimension supplémentaire.
Angle géométrique et angle orienté de deux vecteurs dans l’espace
Dans toute la suite, l’espace est muni d’un repère orthonormé direct $(O,\vec{\imath},\vec{\jmath},\vec{k})$. Ce qui signifie que : $$\boxed{\;\begin{array}{c}
|| \vec{\imath} ||=1,~|| \vec{\jmath}||=1~~\text{et}~~||\vec{k}||=1\\
(\vec{\imath}\, ; \vec{\jmath})=+\dfrac{\pi}{2}~;~(\vec{\jmath}\, ; \vec{k})=+\dfrac{\pi}{2}~~\text{et}~~(\vec{k}\, ;\vec{\imath})=+\dfrac{\pi}{2}\end{array}\;}$$ On passe de $\vec{\imath}$ à $\vec{\jmath}$ par un angle droit, dans le sens positif (le sens inverse des aiguilles d’une montre). De même, de $\vec{\jmath}$ à $\vec{k}$ et de $\vec{k}$ à $\vec{\imath}$.
Soient $\vec{u}$ et $\vec{v}$ deux vecteurs de l’espace. Alors il existe deux points uniques $A$ et $B$ tels que : $$\overrightarrow{u}=\overrightarrow{OA}~~\text{et}~~\overrightarrow{v}=\overrightarrow{OB}$$
Les deux vecteurs $\overrightarrow{u}$ et $\overrightarrow{v}$ sont donc contenus dans un même plan. Alors, on note $\widehat{AOB}$ l’angle géométrique de mesure positive et $(\overrightarrow{u},\overrightarrow{v})$ l’angle orienté, de mesure un nombre réel.

Il y a essentiellement quatre manières de définir le produit scalaire de deux vecteurs.
- A l’aide des normes et de l’angle formé par les deux vecteurs ;
- A l’aide des normes uniquement ;
- A l’aide de la projection orthogonale de l’un des vecteurs sur la direction de l’autre ;
- A l’aide des coordonnées dans un repère orthonormé direct $(O;\vec{\imath},\vec{\jmath},\vec{k})$.
1. Produit scalaire de deux vecteurs dans l’espace
1.1. Le produit scalaire de deux vecteurs est un nombre réel
Définition 1.
On appelle produit scalaire des deux vecteurs $\vec{u}$ et $\vec{v}$ est le nombre réel noté $\vec{u}\cdot\vec{v}$ (lire « $\vec{u}$ scalaire $\vec{v}$ »), défini par : $$
\begin{array}{|l|}\hline
~\color{brown}{\vec{u}\cdot\vec{v}=||\vec{u}||\times ||\vec{v}||\cos(\theta)}~~~~\text{(Déf.1)}\\ \hline
~\color{brown}{\vec{u}\cdot\vec{v}=|| \overrightarrow{OA}||\times || \overrightarrow{OB} ||\cos( \widehat{AOB})}\\ \hline
\end{array}$$ où $\theta=(\vec{u},\vec{v})=\widehat{AOB}$, désigne l’angle orienté des deux vecteurs $\vec{u}$ et $\vec{v}$.
On peut en déduire que :
$\bullet$ Le produit scalaire est positif si et seulement si l’angle $(\vec{u},\vec{v})$ est aigu. $$ \vec{u}\cdot\vec{v}>0\quad\text{(ssi)}\quad -\dfrac{\pi}{2} < (\vec{u},\vec{v})<\dfrac{\pi}{2}~~(\text{modulo}~2\pi)$$
$\bullet$ Le produit scalaire est négatif si et seulement si l’angle $(\vec{u},\vec{v})$ est obtus. $$ \vec{u}\cdot\vec{v}<0\quad\text{(ssi)}\quad \dfrac{\pi}{2} < (\vec{u},\vec{v})<\dfrac{3\pi}{2}~~(\text{modulo}~2\pi)$$

1.2 Exemples
Exercice résolu n°1.
Avec les notations de la figure 1 ci-dessus, on donne $OA=6$, $OB=4\sqrt{2}$, $OC=5$, $ \theta=\widehat{AOB}=\dfrac{\pi}{4}=45°$ et $\theta’\widehat{AOC}=\dfrac{2\pi}{3}=120°$.
1°) Calculer les produits scalaires des vecteurs $\vec{u}$ et $\vec{v}$.
2°) Même question pour les vecteurs $\vec{u}$ et $\vec{w}$.
2. Conséquences immédiates
2.1. Le produit scalaire est commutatif
Propriété 1.
Le produit scalaire est commutatif.
(PS1) : $\quad$ $\boxed{\;\vec{u}\cdot\vec{v}=\vec{v}\cdot\vec{u}\;}$
Immédiat. On sait que la fonction cosinus est une fonction paire. Donc : $\cos( \vec{u};\vec{v})=\cos(\vec{v};\vec{u})$.
2.2. Vecteurs orthogonaux. Caractérisation de l’orthogonalité
Définition 2.
Deux vecteurs $\vec{u}=\overrightarrow{OA}$ et $\vec{v}=\overrightarrow{OB}$ sont dit orthogonaux si, et seulement si, ils ont des directions perpendiculaires. On note : $$\vec{u}\perp\vec{v}~~\text{si, et seulement si,}~~(OA)\perp(OB)$$
2.3 Orthogonalité et produit scalaire
Propriété 2.
Deux vecteurs sont orthogonaux, si et seulement si, leur produit scalaire est égal à $0$.
(PS2) : $\quad$ $\boxed{\;\vec{u}\perp\vec{v}~~\text{si, et seulement si}~~\vec{u}\cdot\vec{v}=0\;}$
En effet : $\vec{u}\perp\vec{v}$ si, et seulement si, $(\vec{u},\vec{v})=\pm\dfrac{\pi}{2}$ si, et seulement si, $\cos(\vec{u},\vec{v})=0$ si, et seulement si, $\vec{u}\cdot\vec{v}=0$.
2.4. Produit scalaire de deux vecteurs colinéaires
Propriétés 3.
$\bullet$ Si deux vecteurs $\vec{u}$ et $\vec{v}$ sont colinéaires de même sens, alors :
(PS3) : $\quad$ $\boxed{\;\vec{u}\cdot\vec{v}=||\vec{u}||\times||\vec{v}|| \;}$
$\bullet$ Si deux vecteurs $\vec{u}$ et $\vec{v}$ sont colinéaires de sens contraires, alors :
(PS3bis) : $~~\boxed{\;\vec{u}\cdot\vec{v}=-||\vec{u}||\times||\vec{v}|| \;}$
En effet, deux vecteurs colinéaires de même sens $\vec{u}$ et $\vec{v}$, forment un angle égal à $0$ (modulo $2\pi$), donc $\cos(0)=1$.
Et deux vecteurs colinéaires de sens contraires $\vec{u}$ et $\vec{v}$, forment un angle égal à $\pi$ ou $-\pi$ (modulo $2\pi$), donc $\cos(\pi)=-1$.
2.5. Carré scalaire d’un vecteur
Définition 3.
Soit $\vec{u}$ un vecteur de l’espace. On appelle carré scalaire de $\vec{u}$ et on note $\vec{u}^2$ le nombre réel : $$\boxed{\;\vec{u}^2=\vec{u}\cdot\vec{u}\;}$$
Donc, d’après la propriété (PS3) on peut énoncer :
Propriété 4.
(PS4) : $\quad$ $\boxed{\;\vec{u}^2=\vec{u}\cdot\vec{u}=||\vec{u}||^2\;}$
2.6. Calcul de la mesure de l’angle $(\vec{u},\vec{v})$
Si les deux vecteurs $\vec{u}$ et $\vec{v}$ sont non nuls, on peut calculer le cosinus de l’angle qui les sépare. Donc, on on peut en déduire la mesure géométrique de l’angle qui les sépare.
Propriétés 5.
(PS5) : Si $\vec{u}\not=\vec{0}$ et $\vec{v}\not=\vec{0}$, alors : $$\boxed{\;\cos(\vec{u},\vec{v})=\dfrac{\vec{u}\cdot\vec{v}}{||\vec{u}||\times||\vec{v}||}\;}$$
3. Exercices résolus
Exercice résolu n°2.