1. Transformation $\overrightarrow{MA}\cdot\overrightarrow{MB}$. Ensemble des points $M$ tels que $\overrightarrow{MA}\cdot\overrightarrow{MB}=k$, $k\in\R$

Tout d’abord, donnons une caractérisation d’un cercle ${\mathcal C}(\Omega,r)$ de centre $\Omega$ et de rayon $r$ et de diamètre $d=2r$.

Soit $M$ un point quelconque du plan. Alors :
$M\in{\mathcal C}(\Omega,r)$ (ssi) $\Omega M=r$ (ssi) $\Omega M=\dfrac{d}{2}$.

1.1. Théorème de la médiane

Théorème 1.
Soient $A$ et $B$ deux points distincts du plan et $I$ le milieu du segment $[AB]$. Alors, quel que soit le point $M$ du plan, on a : $$\boxed{\;\overrightarrow{MA}\cdot\overrightarrow{MB}=MI^2-\dfrac{AB^2}{4}\;}$$

Soient $A$ et $B$ deux points distincts du plan et $I$ le milieu du segment $[AB]$. Donc, $\overrightarrow{IA}+\overrightarrow{IB}=\overrightarrow{0}= \overrightarrow{IB}+\overrightarrow{IA}$, car $\overrightarrow{IA}$ et $\overrightarrow{IB}$ sont deux vecteurs opposés.

Soit $M$ un point quelconque du plan. Alors, on a les égalités suivantes :
$$\begin{array}{rcl}
\overrightarrow{MA}\cdot\overrightarrow{MB}
&=& (\overrightarrow{MI}+\overrightarrow{IA})\cdot (\overrightarrow{MI}+\overrightarrow{IB}) \\
&=& \overrightarrow{MI}^2+\overrightarrow{MI}\cdot {\color{brown}{\overrightarrow{IB}}}+ \overrightarrow{MI}\cdot {\color{brown}{\overrightarrow{IA}}}+\overrightarrow{IA}\cdot \overrightarrow{IB}\\
&=& \overrightarrow{MI}^2+\overrightarrow{MI}\cdot {\color{brown}{(\overrightarrow{IB}+\overrightarrow{IA})}}+\overrightarrow{IA}\cdot \overrightarrow{IB}\\
&=& \overrightarrow{MI}^2+\left(-\dfrac{1}{2}\overrightarrow{AB}\right)\cdot \left(\dfrac{1}{2} \overrightarrow{AB}\right)\\
&=& \overrightarrow{MI}^2-\dfrac{1}{4}\left(\overrightarrow{AB}\cdot \overrightarrow{AB}\right)\\
&=& MI^2-\dfrac{AB^2}{4}\\
\end{array}$$


Exercice résolu n°1.
Soient $A$ et $B$ deux points du plan tels que $AB=8$cm. Déterminer l’ensemble des points $M$ du plan pour lesquels $\overrightarrow{MA}\cdot\overrightarrow{MB}=20$.

Cet ensemble s’appelle une ligne de niveau.

Soient $A$ et $B$ deux points du plan tels que $AB=8$cm. Soit $I$ le milieu du segment $[AB]$.
Soit $M$ un point du plan pour lequel : $\overrightarrow{MA}\cdot\overrightarrow{MB}=20$ (*).
D’après le théorème de la médiane, on a :
$\overrightarrow{MA}\cdot\overrightarrow{MB}= MI^2-\dfrac{AB^2}{4}$.
Ce qui donne, d’après (*) :
$\quad\begin{array}{rcl}
MI^2&=&\overrightarrow{MA}\cdot\overrightarrow{MB}+\dfrac{AB^2}{4}\\
&=&20+\dfrac{64}{4}\\
MI^2&=&36\\
MI &=& 6~~\text{car } MI>0\\
\end{array}$
Par conséquent, l’ensemble des points $M$ du plan pour lesquels $\overrightarrow{MA}\cdot\overrightarrow{MB}=20$, est le cercle de centre $I$, milieu du segment $[AB]$ et de rayon $r=6$cm.

2. Caractérisation d’un cercle par le produit scalaire

Théorème 1. (Triangle inscrit dans un demi-cercle)
Soient $A$ et $B$ deux points distincts du plan. Alors, quel que soit le point $M$ du plan, on a :
$\quad\overrightarrow{MA}\cdot\overrightarrow{MB}=0$ (ssi) $M$ appartient au cercle de diamètre $[AB]$.
Autrement dit :
L’ensemble de tous les points $M$ du plan pour lesquels $\overrightarrow{MA}\cdot\overrightarrow{MB}=0$, est le cercle de diamètre $[AB]$.

Soient $A$ et $B$ deux points distincts du plan et $I$ le milieu du segment $[AB]$. Nous devons démontrer une équivalence. Nous allons démontrer la double implication.

1°) Implication directe $(\Rightarrow)$.
Supposons que : $\overrightarrow{MA}\cdot\overrightarrow{MB}=0$.
Donc les deux vecteurs $\overrightarrow{MA}$ et $\overrightarrow{MB}$ sont orthogonaux. Donc, le triangle $AMB$ est rectangle en $M$ et $[AB]$ est son hypoténuse.
Or, on sait que « Dans un triangle rectangle, le centre du cercle circonscrit est situé au milieu de l’hypoténuse ». Or $I$ est le milieu de l’hypoténuse $[AB]$.
Par conséquent, le point $M$ appartient au cercle de centre $I$ et de diamètre $[AB]$. CQFD.

2°) Implication réciproque $(\Leftarrow)$.
Supposons que : le point $M$ appartient au cercle de diamètre $[AB]$.
Comme $I$ est le milieu du segment $[AB]$, on peut écrire, d’après la propriété de la médiane : $\overrightarrow{MA}\cdot\overrightarrow{MB}=MI^2-\dfrac{AB^2}{4}$.
Or, $MI=IA=IB=$ rayon du cercle. Par suite : $MI=\dfrac{AB}{2}$. Ce qui donne : $MI^2=\left(\dfrac{AB}{2}\right)^2= \dfrac{AB^2}{4}$.
Et par conséquent : $MI^2-\dfrac{AB^2}{4}=0$.
Ce qui montre que $\overrightarrow{MA}\cdot\overrightarrow{MB}=0$. CQFD.


Exercice résolu n°2.
Soient $A$ et $B$ deux points du plan tels que $AB=4$cm. Déterminer l’ensemble des points $M$ du plan pour lesquels $\overrightarrow{MA}\cdot\overrightarrow{MB}=0$.

On sait que $\overrightarrow{MA}\cdot\overrightarrow{MB}=0$ (ssi) $M$ appartient au cercle de diamètre $[AB]$.
Soit $I$ le milieu du segment $[AB]$. Alors l’ensemble des points $M$ du plan pour lesquels $\overrightarrow{MA}\cdot\overrightarrow{MB}=0$ est le cercle ${\mathcal C}$ de centre $I$ et de rayon $r=AB/2 = 2$cm.