Etape 1

Détermination de \(\displaystyle{D_f}\)

\(\displaystyle{f\left(x\right)}\) existe si et seulement si \(\displaystyle{x^2-6x+8\neq0}\).

On cherche les solutions de l'équation \(\displaystyle{x^2-6x+8=0}\) pour exclure les solutions de l'ensemble de définition de f.

Il s'agit d'une équation du second degré que l'on peut résoudre en utilisant le discriminant :

\(\displaystyle{\Delta=b^2-4ac=\left(-6\right)^2-4\times1\times8=36-32=4}\)

\(\displaystyle{\Delta\gt0}\), donc l'équation admet deux solutions distinctes :

\(\displaystyle{x_1=\dfrac{-b-\sqrt{\Delta}}{2a}=\dfrac{6-\sqrt{4}}{2\times1}=\dfrac{6-2}{2}=\dfrac{4}{2}=2}\)
\(\displaystyle{x_2=\dfrac{-b+\sqrt{\Delta}}{2a}=\dfrac{6+\sqrt{4}}{2\times1}=\dfrac{6+2}{2}=\dfrac{8}{2}=4}\)

Ainsi \(\displaystyle{D_f=\mathbb{R}\backslash\left\{ 2;4 \right\}}\)

Etape 2

Calcul de f'(x)

La fonction f est une fonction rationnelle (quotient de deux polynômes) elle est donc dérivable sur son ensemble de définition, c'est-à-dire sur \(\displaystyle{\mathbb{R}\backslash\left\{2;4 \right\}}\).

On remarque que \(\displaystyle{f=\dfrac{u}{v}}\) avec pour tout x appartenant à \(\displaystyle{\mathbb{R}\backslash\left\{ 2;4 \right\}}\):

\(\displaystyle{u\left(x\right)=x^2-6x}\)
\(\displaystyle{v\left(x\right)=x^2-6x+8}\)

On en déduit que \(\displaystyle{f'=\dfrac{u'v-uv'}{v^2}}\) avec pour tout x appartenant à \(\displaystyle{\mathbb{R}\backslash\left\{ 2;4 \right\}}\):

\(\displaystyle{u'\left(x\right)=2x-6}\)
\(\displaystyle{v'\left(x\right)=2x-6}\)

Ainsi pour tout \(\displaystyle{x\in\mathbb{R}\backslash\left\{ 2;4 \right\}}\), on a :

\(\displaystyle{f'\left(x\right)=\dfrac{\left(2x-6\right)\left(x^2-6x+8\right)-\left(x^2-6x\right)\left(2x-6\right)}{\left(x^2-6x+8\right)^2}}\)

\(\displaystyle{f'\left(x\right)=\dfrac{\left(2x-6\right)\left[\left(x^2-6x+8\right)-\left(x^2-6x\right)\right]}{\left(x^2-6x+8\right)^2}}\)

\(\displaystyle{f'\left(x\right)=\dfrac{\left(2x-6\right)\left[x^2-6x+8-x^2+6x\right]}{\left(x^2-6x+8\right)^2}}\)

\(\displaystyle{f'\left(x\right)=\dfrac{8\left(2x-6\right)}{\left(x^2-6x+8\right)^2}}\)

Etape 3

Etude du signe de f'(x)

On a, pour tout x appartenant à \(\displaystyle{\mathbb{R}\backslash\left\{ 2;4 \right\}}\), \(\displaystyle{f'\left(x\right)=\dfrac{8\left(2x-6\right)}{\left(x^2-6x+8\right)^2}}\).

8 > 0
\(\displaystyle{2x-6\gt0\Leftrightarrow 2x\gt6\Leftrightarrow x\gt3}\)
\(\displaystyle{\left(x^2-6x+8\right)^2\gt0}\)

On obtient le tableau de signes de f'(x) :

Etape 4

Sens de variations de f

Une fonction est croissante lorsque sa dérivée est positive, et décroissante lorsque sa dérivée est négative. On obtient le tableau de variations de f :