（1）∵（a，b）*（c，d）=a²+c²-bd，
∴（1，2）*（3，-4）=1²+3²-2×（-4）
=1+9+8
=18；
（2）∵（a，b）⊗（c，d）=（ac，bd），
∴（1，2）⊗（p，q）=（1×p，2×q），
∵（1，2）⊗（p，q）=（2，-4），
∴p=2，2q=-4，
∴q=-2；
（3）∵q=-2，p=2，（a，b）⊕（c，d）=（a+c，b+d），
∴（1，2）⊕（p，q）
=（1，2）⊕（2，-2）
=（3，0）；
（4）∵x²+2xy+y²=5，x²-2xy+y²=1，
∴x²+y²=3，xy=1，
∵（a，b）*（c，d）=a²+c²-bd，
∴（x，5）*（y，xy）
=x²+y²-5xy
=3-5
=-2．