If $\vec a, \vec b$ and $\vec c$ are unit vectors, then $|\vec a-\vec b|^2+|\vec b-\vec c|^2+|\vec c-\vec a|^2$ does not exceed

9

We have,

$|\vec a-\vec b|^2+|\vec b-\vec c|^2+|\vec c-\vec a|^2$

$=|\vec a|^2+|\vec b|^2-2(\vec a.\vec b)+|\vec b|^2+|\vec c|^2-2(\vec b.\vec c)+|\vec c|^2+|\vec a|^2-2(\vec c.\vec a)$

$=2\left[|\vec a|^2+|\vec b|^2+|\vec c|^2-(\vec a.\vec b+\vec b.\vec c+\vec c.\vec a)\right]$

$=2\left[3-(\vec a.\vec b+\vec b.\vec c+\vec c.\vec a)\right]$

$=6-2(\vec a.\vec b+\vec b.\vec c+\vec c.\vec a)$  ...(i)

Now,

$|\vec a+\vec b+\vec c|^2≥0$

$⇒|\vec a|^2+|\vec b|^2+|\vec c|^2+ 2(\vec a.\vec b+\vec b.\vec c+\vec c.\vec a)≥0$

$⇒3+2(\vec a.\vec b+\vec b.\vec c+\vec c.\vec a)≥0$

$⇒\vec a.\vec b+\vec b.\vec c+\vec c.\vec a≥-\frac{3}{2}$

$⇒-2(\vec a.\vec b+\vec b.\vec c+\vec c.\vec a)≤3$   ...(ii)

From (i) and (ii), we obtain

$|\vec a-\vec b|^2+|\vec b-\vec c|^2+|\vec c-\vec a|^2≤6+3$

$⇒|\vec a-\vec b|^2+|\vec b-\vec c|^2+|\vec c-\vec a|^2≤9$