If $\vec a$ and $\vec b$ are vectors in space given by $\vec a=\frac{\hat i-2\hat j}{\sqrt{5}}$ and $\vec b=\frac{2\hat i+\hat j+3\hat k}{\sqrt{14}}$ then the value of $(2\vec a+\vec b).\left[(\vec a×\vec b) × (\vec a-2\vec b)\right]$, is

5

$(\vec a×\vec b) × (\vec a-2\vec b)$

$=(\vec a×\vec b) ×\vec a-2(\vec a×\vec b) ×\vec b$  [Using distributivity of 'x' over '+']

$=-\vec a×(\vec a×\vec b)+2\vec b×(\vec a×\vec b)$

$=-\{(\vec a.\vec b)\vec a-(\vec a.\vec a)\vec b\}+2\{(\vec b.\vec b)\vec a-(\vec b.\vec a)\vec b\}$

$=2\vec a+\vec b$   $[∵\vec a.\vec b=0,\vec a.\vec a=1,\vec b.\vec b=1]$

$∴(2\vec a+\vec b).\left[(\vec a×\vec b) × (\vec a-2\vec b)\right]$

$=(2\vec a+\vec b).(2\vec a+\vec b)$

$=4|\vec a|^2+|\vec b|^2+4(\vec a.\vec b)=4+1+1=5$