If $\vec a=\frac{1}{\sqrt{10}}(3\hat i+\hat k), \vec b=\frac{1}{7}(2\hat i+3\hat j-6\hat k)$, then the value of $(2\vec a.\vec b).\{(\vec a×\vec b)×(\vec a+2\vec b)\}$, is

-5

Clearly, $\vec a$ and $\vec b$ are perpendicular unit vectors. 

Now,

$(2\vec a.\vec b).\{(\vec a×\vec b)×(\vec a+2\vec b)\}$

$=[2\vec a-\vec b, \vec a×\vec b, \vec a +2\vec b]$

$=-[\vec a×\vec b,2\vec a-\vec b, \vec a +2\vec b]$

$=-(\vec a×\vec b).\{(2\vec a-\vec b)×(\vec a+2\vec b)\}$

$=-(\vec a×\vec b).5(\vec a×\vec b)$

$=-5|\vec a×\vec b|=-5|\vec a|^2+|\vec b|^2$  $∵\vec a⊥\vec b$

$=-5$    $[∵|\vec a|=|\vec b|=1]$