Étape 1
Pour que le triangle $ABM_k$ soit rectangle en $M_k$, il faut et il suffit que les vecteurs $\overrightarrow{M_k B}$ et $\overrightarrow{M_k A}$ soient orthogonaux et non nuls, c'est-à-dire que l'angle orienté $(\overrightarrow{M_k B}, \overrightarrow{M_k A})$ mesure $\frac{\pi}{2}$ modulo $\pi$.
Étape 2
En géométrie complexe, cet angle orienté est lié au quotient des affixes par la relation :$$(\overrightarrow{M_k B}, \overrightarrow{M_k A}) \equiv \arg\left(\frac{a - z_k}{b - z_k}\right) \pmod{2\pi}$$Ainsi, le triangle $ABM_k$ est rectangle en $M_k$ si et seulement si le quotient $Z_k = \frac{a - z_k}{b - z_k}$ est un nombre imaginaire pur non nul.
Étape 3
Exprimons le quotient $Z_k$ sous forme algébrique en fonction du paramètre réel $k$ :$$Z_k = \frac{(1 + 2\text{i}) - (k + \text{i})}{(5 + 4\text{i}) - (k + \text{i})} = \frac{(1 - k) + \text{i}}{(5 - k) + 3\text{i}}$$
Étape 4
En multipliant le numérateur et le dénominateur par le conjugué du dénominateur $(5 - k) - 3\text{i}$, on obtient :$$Z_k = \frac{[(1 - k) + \text{i}][(5 - k) - 3\text{i}]}{(5 - k)^2 + 3^2} = \frac{(1 - k)(5 - k) + 3 + \text{i}[(5 - k) - 3(1 - k)]}{(5 - k)^2 + 9}$$En développant les expressions au numérateur :$$Z_k = \frac{(k^2 - 6k + 8) + \text{i}(2k + 2)}{(5 - k)^2 + 9}$$
Étape 5
Le nombre complexe $Z_k$ est imaginaire pur non nul si et seulement si sa partie réelle est nulle et sa partie imaginaire est non nulle. La partie réelle est donnée par :$$\text{Re}(Z_k) = \frac{k^2 - 6k + 8}{(5 - k)^2 + 9}$$
Étape 6
On résout l'équation $k^2 - 6k + 8 = 0$. Le discriminant de ce polynôme est :$$\Delta = (-6)^2 - 4 \times 1 \times 8 = 36 - 32 = 4$$Les deux solutions réelles sont :$$k_1 = \frac{6 - \sqrt{4}}{2} = 2 \quad \text{et} \quad k_2 = \frac{6 + \sqrt{4}}{2} = 4$$
Étape 7
L'énoncé impose la condition $k > 3$. On écarte donc la valeur $k = 2$ et on conserve $k = 4$.
Étape 8
Vérifions enfin que pour $k = 4$, la partie imaginaire de $Z_4$ ne s'annule pas :$$\text{Im}(Z_4) = \frac{2(4) + 2}{(5 - 4)^2 + 9} = \frac{10}{10} = 1 \neq 0$$On a alors $Z_4 = \text{i}$, d'où $\arg(Z_4) = \frac{\pi}{2} \pmod{2\pi}$. Le triangle $ABM_4$ est donc bien rectangle en $M_4$.
Étape 9
La valeur recherchée est $k = 4$.
Méthode clé
Un angle orienté $(\overrightarrow{MC}, \overrightarrow{MB})$ se traduit par l'argument du quotient $\frac{z_B - z_M}{z_C - z_M}$. L'orthogonalité équivaut à un quotient imaginaire pur non nul.
Piège à éviter
Oublier la condition d'existence $k > 3$ ou négliger de vérifier que la partie imaginaire du quotient ne s'annule pas.