Решить систему уравнений a2x-2a2+b2y+z=02x+2y-3z=0

Выполним элементарные преобразования над строками матрицы коэффициентов, приведя ее к ступенчатому виду:
a2-2a2+b2b222-3~22-3a2-2a2+b2b2~11-3/2a2-2a2+b2b2
11-3/20-3a2-2b2b2+3/2a2
Ранг матрицы равен 2, тогда как число неизвестных равно 4 . Поэтому одну из неизвестных, например, z следует рассматривать как свободный параметр.Далее нужно присвоить этому параметру произвольное значение z=C и выразить базисные неизвестные x,  и y через  C.
Преобразованная матрица соответствует следующей системе уравнений:
x+y-32C=0 -3a2-2b2y+2b2+3a2C2=0
Из последнего уравнения следует, что 
y=-2b2+3a2C2:-3a2-2b2=C2
C первого уравнения выразим x:
x=-y+32C=>-C2+32C=C
Таким образом, общее решение системы найдено:
x=C, y=C2,z=C