If $\vec a=\frac{1}{\sqrt{10}}(3\hat i+\hat k), \vec b=\frac{1}{7}(2\hat i+3\hat j-6\hat k)$, then the value of $(2\vec a.\vec b).\{(\vec a×\vec b)×(\vec a+2\vec b)\}$, is
Answer & explanation
Correct answer: option 1
Clearly, $\vec a$ and $\vec b$ are perpendicular unit vectors.
Now,
$(2\vec a.\vec b).\{(\vec a×\vec b)×(\vec a+2\vec b)\}$
$=[2\vec a-\vec b, \vec a×\vec b, \vec a +2\vec b]$
$=-[\vec a×\vec b,2\vec a-\vec b, \vec a +2\vec b]$
$=-(\vec a×\vec b).\{(2\vec a-\vec b)×(\vec a+2\vec b)\}$
$=-(\vec a×\vec b).5(\vec a×\vec b)$
$=-5|\vec a×\vec b|=-5|\vec a|^2+|\vec b|^2$ $∵\vec a⊥\vec b$
$=-5$ $[∵|\vec a|=|\vec b|=1]$