|B|=-288。
|B|=|A²(A-5I)|=|A|²|A-5I|=4|A-5I|，
其中最后一步利用了矩阵的行列式等于其特征值的乘积这个性质。剩下的问题就是求|A-5I|。由于A的特征值互异，因此可以对角化，设A=P^(-1)DP，其中D=diag(1，-1，2)，则
|A-5I|=|P^(-1)DP-5P^(-1)P|=|P^(-1)(D-5I)P|=|P^(-1)||diag(-4，-6，-3)||P|=-72，因此|B|=-288。
设A=(aij)是数域P上的一个n阶矩阵，则所有A=(aij)中的元素组成的行列式称为矩阵A的行列式，记为|A|或det(A)。若A，B是数域P上的两个n阶矩阵，k是P中的任一个数，则|AB|=|A||B|，|kA|=kn|A|，|A*|=|A|n-1，其中A*是A的伴随矩阵；若A是可逆矩阵，则|A^(-1)|=|A|^(-1)。
扩展资料：
一个n×n矩阵的行列式等于其任意行(或列)的元素与对应的代数余子式乘积之和。
对n采用数学归纳法证明。显然，因为1×1矩阵是对称的，该结论对n=1是成立的。假设这个结论对所有k×k矩阵也是成立的，对(k+1)×(k+1)矩阵A，将det(A)按照A的第一行展开。
令A为n×n矩阵。
(i) 若A有一行或一列包含的元素全为零，则det(A)=0。
(ii) 若A有两行或两列相等，则det(A)=0。
这些结论容易利用余子式展开加以证明。
参考资料来源：百度百科——矩阵行列式