Запишем систему в матричной форме Ax=b A=-11-13-43-20-3

Сначала найдём определитель основной матрицы:
A=-11-13-43-20-3=-1*-4*-3+1*3*-2+-1*3*0--2*-4*-1-0*3*-1--3*3*1=-12-6+0+8-0+9=-1
В данной формуле нам также неизвестна транспонированная матрица алгебраических дополнений, поэтому найдём все соответствующие алгебраические дополнения:
A11=-11+1*-430-3=-4*-3-0*3=12-0=12
A12=-11+2*33-2-3=-1*3*-3--2*3=-1*-9+6=-1*-3=3
A13=-11+3*3-4-20=3*0--2*-4=0-8=-8
A21=-12+1*1-10-3=-1*1*-3-0*-1=-1*-3+0=-1*-3=3
A22=-12+2*-1-1-2-3=-1*-3--2*-1=3-2=1
A23=-12+3*-11-20=-1*-1*0--2*1=-1*0+2=-1*2=-2
A31=-13+1*1-1-43=1*3--4*-1=3-4=-1
A32=-13+2*-1-133=-1*-1*3-3*-1=-1*-3+3=-1*0=0
A33=-13+3*-113-4=-1*-4-3*1=4-3=1
Получилась следующая матрица алгебраических дополнений:
Aij=123-831-2-101
Транспонируем данную матрицу, получим:
(Aij)T=123-1310-8-21
Теперь найдём искомую обратную матрицу, подставив полученные значения в выше приведённую формулу:
A-1=1-1*123-1310-8-21=-12-31-3-1082-1
Теперь найдём решение данной системы уравнений:
X=A-1*B=-12-31-3-1082-1*0-18=-12*0+-3*-1+1*8-3*0+-1*-1+0*88*0+2*-1+-1*8=0+3+80+1+00-2-8=111-10
Ответ: x1=11, x2=1, x3=-10