3cos^2x-2sin2x+sin^2x=0

[tex]\sin^2x-2\sin 2x+3\cos^2x=0\\ \\ \sin^2x-4\sin x\cos x+3\cos ^2x=0\,\, |:\cos^2x\ne 0\\ \\ tg^2x-4tgx+3=0[/tex]

Решив квадратное уравнение относительно tg x, получим:
  [tex]tg x=3;\,\,\,\,\,\,\Rightarrow\,\,\,\,\, \boxed{x_1=arctg3+ \pi n,n \in \mathbb{Z}}\\ \\ tg x=1;\,\,\,\,\,\,\, \Rightarrow\,\,\,\,\, \boxed{x_2= \frac{\pi}{4} + \pi n,n \in \mathbb{Z}}[/tex]