Представить в виде произведения a – 3b + a^2 – 9b^2

Сгруппируем первые два слагаемые и последние два. Ко второй скобке применим формулу сокращенного умножения разность квадратов: a – 3b + a^2 – 9b^2 = (a – 3b) + (a^2 - 9b^2) = 1 * (a – 3b) + (a – 3b) * (a + 3b) = (a – 3b)(1 + a + 3b).