Soit f∈C1([−1,1],R) vérifiant la propriété (∗).
1. Obtention d'une équation différentielle
Soit x∈]−1,1[.
• Pour y<x, on a x−y>0, d'où en divisant (∗) par x−y :
x−yf(x)−f(y)⩾f(x)2 Par passage à la limite quand y→x−, la dérivabilité de f donne f′(x)⩾f(x)2.
• Pour y>x, on a x−y<0, d'où :
x−yf(x)−f(y)⩽f(x)2 Par passage à la limite quand y→x+, on obtient f′(x)⩽f(x)2.
Par encadrement, pour tout x∈]−1,1[, f′(x)=f(x)2. Par continuité de f′ et f sur [−1,1], cette égalité s'étend aux bornes :
∀x∈[−1,1],f′(x)=f(x)2 En particulier, f′⩾0 donc f est croissante sur [−1,1].
2. Étude de l'ensemble des annulations de f
Posons Δ={x∈[−1,1]∣f(x)=0}.
Supposons Δ non vide. L'ensemble Δ est une partie non vide et minorée de R (par -1), donc m=infΔ existe et m∈[−1,1].
Comme f est continue, Δ=f−1({0}) est un fermé de [−1,1], d'où m∈Δ, c'est-à-dire f(m)=0.
• En appliquant (∗) avec y=m, on obtient pour tout x∈[−1,1] :
f(m)−f(x)⩾f(m)2(m−x)⟹−f(x)⩾0⟹f(x)⩽0(1) • De plus, f est croissante, on a pour tout x∈[m,1] :
f(x)⩾f(m)=0 Par conséquent, pour tout x∈[m,1], f(x)=0, donc [m,1]⊆Δ.
De plus on a déjà Δ⊆[m,1] (car Δ⊆[−1,1] et m minore Δ), donc Δ=[m,1].
Montrons par l'absurde que m=−1 :
Supposons m>−1. Soit x∈[−1,m[. En appliquant (∗) avec y=m, on obtient :
f(x)−f(m)⩾f(x)2(x−m)⟹f(x)(1−f(x)(x−m))⩾0 Puisque x<m=supΔ, f(x) est non nul, on a donc par (1) : f(x)<0.
On en déduit donc que f(x)(x−m)⩾1
Or, quand x→m−, par continuité de f, f(x)(x−m)→0, ce qui contredit f(x)(x−m)⩾1.
On a donc nécessairement m=−1, ce qui implique Δ=[−1,1]. La fonction f est donc la fonction nulle.
Par contraposée, si une solution f n'est pas la fonction nulle, elle ne s'annule jamais sur [−1,1].
3. Résolution dans le cas où f ne s'annule pas
Si f ne s'annule jamais, on peut diviser f′(x)=f(x)2 par f(x)2 :
f(x)2f′(x)=1⟹(−f(x)1)′=1 Il existe donc un réel c∈R tel que pour tout x∈[−1,1] :
f(x)=−x+c1 Pour que f soit définie et de classe C1 sur [−1,1], le dénominateur x+c ne doit pas s'annuler sur [−1,1], ce qui impose c>1 ou c<−1.
4. Synthèse
• La fonction nulle f=0 vérifie manifestement (∗).
• Pour f(x)=−x+c1 :
On a f(x)−f(y)=−x+c1+y+c1=(x+c)(y+c)x−y=f(x)f(y)(x−y).
L'inégalité f(x)−f(y)⩾f(x)2(x−y) s'écrit alors :
(x−y)f(x)(f(y)−f(x))⩾0 Comme f est strictement croissante (car f′>0), (x−y) et (f(x)−f(y)) ont le même signe.
Ainsi, (x−y)(f(y)−f(x))⩽0.
Pour que le produit global soit ⩾0, il faut et il suffit donc que f(x)⩽0 pour tout x∈[−1,1].
Or f(x)=−x+c1⩽0 pour tout x∈[−1,1] équivaut à x+c>0 sur [−1,1], soit c>1.
Conclusion : Les solutions sont la fonction nulle et les fonctions de la forme x↦−x+c1 avec c>1.