If $\int\limits_0^x\{t\} d t=\int\limits_0^{\{x\}} t d t$ (where $x>0, x \notin Z$ and {.} represents fractional part function), then
Answer & explanation
Correct answer: option 1
Let $x \in(k, k+1)$, where $k \in Z$. Then,
$\int\limits_0^x\{t\} d t=\int\limits_0^{\{x\}} t d t$
$\Rightarrow \int\limits_0^k(t-[t]) d t+\int\limits_k^x(t-[t]) d t=\int\limits_0^{\{x\}} t d t$
$\Rightarrow \sum\limits_{r=1}^k \int\limits_{(r-1)}^r(t-[t]) d t+\int\limits_k^x(t-[t]) d t=\frac{1}{2}\{x\}^2$
$\Rightarrow \sum\limits_{r=1}^k \int\limits_{(r-1)}^r\{t-(r-1)\} d t+\int\limits_k^x(t-k) d t=\frac{1}{2}\{x\}^2$
$\Rightarrow \frac{1}{2} \sum\limits_{r=1}^k\left[-\{t-(r-1)\}^2\right]_{r-1}^r+\left[\frac{1}{2}(t-k)^2\right]_k^x=\frac{1}{2}\{x\}^2$
$\Rightarrow \sum\limits_{r=1}^k 1+(x-k)^2=\{x\}^2$
$\Rightarrow k+(x-k)^2=(x-k)^2$ $[∵ x \in(k, k+1) ∴ \{x\}=x-k]$
$\Rightarrow k=0$
∴ $x \in(0,1)$