a2+b2+根号2ab=c2?
是不是a²+b²+(√2)ab=c²吧?

解1：
由余弦定理,有：c²=a²+b²-2abcosC
已知：a²+b²+(√2)ab=c²
因此有：a²+b²-2abcosC=a²+b²+(√2)ab
即：cosC=-(√2)/2
因为：C是三角形内角,
所以：C=135°.

解2：
由解1有：C=135°,又知：C=180°-(A+B)
所以：sinC=(√2)/2,即：sin[180°-(A+B)]=(√2)/2
sin(A+B)=(√2)/2……………………………………(1)
另得：cosC=-(√2)/2,即：cos[180°-(A+B)]=-(√2)/2
cos(A+B)]=(√2)/2……………………………………(2)
由(2),有：cosAcosB-sinAsinB=(√2)/2
已知：cosAcosB=(3√2)/5…………………………(3)
有：(3√2)/5-sinAsinB=(√2)/2
得：sinAsinB=(√2)/10………………………………(4)
又已知：[cos(α+A)cos(α+B)]/cos²α=(√2)/5
(cosαcosA-sinαsinA)(cosαcosB-sinαsinB)/cos²α=(√2)/5
cos²αcosAcosB+sin²αsinAsinB-sinαcosαsinAcosB-sinαcosαcosAsinB=(√2)/5
将(3)、(4)代入,有：
cos²α(3√2)/5+sin²α(√2)/10-sinαcosα(sinAcosB+cosAsinB)=(√2)/5
cos²α(3√2)/5+sin²α(√2)/10-sinαcosαsin(A+B)=(√2)/5
将(1)代入,有：
cos²α(3√2)/5+sin²α(√2)/10-sinαcosα(√2)/2=(√2)/5
6cos²α+sin²α-5sinαcosα=2
5cos²α+(cos²α+sin²α)-5sinαcosα=2
cos²α-sinαcosα=1/5
cos²α(1-tanα)=1/5………………(5)
又：
tanα=sinα/cosα……………………(6)
cos²α+sin²α=1……………………(7)
由(6)得：sin²α=tan²αcos²α
将(7)代入上式,有：
1-cos²α=tan²αcos²α
(tan²α+1)cos²α=1
cos²α=1/(tan²α+1)
代入(5),有：
(1-tanα)/(tan²α+1)=1/5
5-5tanα=tan²α+1
tan²α+5tanα-4=0
有：tanα=(-5±√41)/2
即：tan(α1)=(-5+√41)/2、tan(α2)=-(5+√41)/2