En géométrie euclidienne plane, le théorème des six cercles s'énonce ainsi :
Soit un triangle quelconque, les côtés étant numérotés c1, c2 c3. On considère un cercle Γ1 quelconque, tangent aux côtés c1 et c2. Puis le cercle Γ2 tangent à Γ1, c2 et c3, le cercle Γ3 tangent à Γ2, c3 et c1, et ainsi de suite en « tournant » dans le triangle. Alors, le cercle Γ6 est tangent à Γ1.
Autrement dit, le septième cercle construit est confondu avec le premier. La suite des cercles, a priori infinie, n'est, d'après le théorème, constituée que de six cercles différents au plus [1],[2].
On ne considère, dans cette construction, que les cas où les points de contact sont situés sur les côtés du triangle et non sur leur prolongement.
Le problème des six cercles n'a été énoncé (et démontré) qu'en 1974[3],[4].
Une variante en a été étudiée en 2016 : le contact des cercles peut se faire sur une extension des côtés (pas seulement sur les côtés eux-mêmes), mais comme à chaque étape il y a deux choix possibles, on s'impose de toujours choisir le plus petit des deux cercles. Alors la suite des cercles aboutit aussi à un cycle de six, mais après une séquence pré-périodique qui peut être rendue arbitrairement longue en fonction du choix de la forme du triangle et du premier cercle[5].
Cette partie suit une démonstration proposée par Christoph Soland[6]. Notons les sommets du triangle , etc.
La suite des cercles est formée de : de rayon arbitraire tangent à et , tangent à , et , etc. , tangent à , et .
Les points de contact du cercle inscrit découpent les côtés du triangle en six segments de trois longueurs que l'on nomme , et . Si on choisit comme unité de longueur le demi-périmètre, on est assuré que ces trois longueurs sont comprises entre 0 et 1. Il existe donc trois réels , et compris entre 0 et tels que (on a donc ).
Dans ces circonstances, le rayon r du cercle inscrit est (voir cercle inscrit).
De même il existe des réels compris entre 0 et tels que représente la distance du sommet aux points de contact de avec les côtés issus de .
Théorème —
On obtient les relations :
,
ce qui montre que le septième cercle est bien égal au premier.
Démonstration
Les points de contact des cercles et découpent le côté en trois segments de longueurs respectives où est le rayon du cercle (pour le deuxième terme, appliquer le théorème de Pythagore au petit triangle dans la figure dont l’hypoténuse vaut ).
Or d'après le théorème de Thalès, , soit , d'où .
Les deux expressions pour donnent le lien entre et :
, et .
On obtient une équation du deuxième degré en qui donne
.
Comme , il faut prendre le signe supérieur : .
Il suffit maintenant de répéter cet argument pour obtenir les relations annoncées.
Premier cas particulier
Si le premier cercle est le cercle inscrit (), les cercles et sont égaux à ce cercle : les six cercles se réduisent à 4. Les trois "petits" cercles sont définis par .
Leurs rayons sont donc donnés par : .
La figure formée est celle d'un sangaku de 1814 [7], et apparaît aussi dans un ouvrage de Seiyo Sanpo en 1781 [8], ainsi que dans le Ladies' diary en 1730 [9], corrigé en 1817 [10].
La relation demandée dans ces ouvrages est, avec les notations de cette page : .
Deuxième cas particulier
Si l'on force le quatrième cercle à être égal au premier, le cycle des cercles est d'ordre trois, et on obtient les cercles de Malfatti.