Сматрицами. за место буквы (с) нужно вставить 14. )
[tex]a^2=\left(\begin{array}{ccc}-1& 14\\2& 3\end{array}\right)\cdot \left(\begin{array}{ccc}-1& 14\\2& 3\end{array}\right)=\left(\begin{array}{ccc}(-1)\cdot (-1)+14\cdot 2& (-1)\cdot 14+14\cdot 3\\2\cdot (-1)+3\cdot 2& 2\cdot 14+3\cdot 3\end{array} \\ =\left(\begin{array}{ccc}29& 28\\4& 37\end{array}\right); \\ \\ \\ 6a^2=\left(\begin{array}{ccc}6\cdot 29& 6\cdot 28\\4\cdot 6& 6\cdot37\end{array}\right)=\left(\begin{array}{ccc}174& 168\\24& 222\end{array}\right)[/tex]
[tex]5b=\left(\begin{array}{ccc}5\cdot 4& 5\cdot 3\\5\cdot (-3)& 5\cdot 2\end{array}\right)=\left(\begin{array}{ccc}20& 15\\-15& 10\end{array}\right)[/tex]
[tex]b^t=\left(\begin{array}{ccc}4& -3\\3& 2\end{array}\right)[/tex]
[tex]a\cdot b^t=\left(\begin{array}{ccc}-1& 14\\2& 3\end{array}\right)\cdot \left(\begin{array}{ccc}4& -3\\3& 2\end{array}\right)=\left(\begin{array}{ccc}(-1)\cdot 4+14\cdot 3& (-1)\cdot (-3)+14\cdot 2\\2\cdot 4+3\cdot 3& 2\cdot (-3)+3\cdot 2\end{array} \\ =\left(\begin{array}{ccc}38& 31\\17& 0\end{array}\right)[/tex]
[tex]4e=4\cdot \left(\begin{array}{ccc}1& 0\\0& 1\end{array}\right)=\left(\begin{array}{ccc}4& 0\\0& 4\end{array}\right)[/tex]
[tex]6a^2-5b-ab^t+4e=\left(\begin{array}{ccc}174-20-38+4& 168-15-31+0\\24+15-17+0& 222-10-0+4\end{array}\right)=\\ \\ \\ =\left(\begin{array}{ccc}120& 122\\22& 216\end{array}\right)[/tex]
ответ: [tex]\left(\begin{array}{ccc}120& 122\\22& 216\end{array}\right)[/tex]