首先,我想楼主是不是打错字了
是不是应该是：求3倍a的平方减2倍ab减3倍b的平方的值?
其次,我觉得此题有无数个解
就楼主给的条件来看
当a=0,b=根号5时,所求值为负15.
当a=根号5,b=0时,所求值为15.
...
也就是说此题至少有这两个解
用三角函数表示的话可得通解
设a=√5cosα,b=√5sinα("√"这个为根号）
可得
3倍a平方-2倍ab-3倍b平方
＝15cos平方α-10cosαsinaα-3sin平方α
＝3cos2α-sin2α
其中α为任意实数!