（1）∵y=x²-2x-1=（x-1）²-2，
∴顶点A的坐标为（1，-2）．
∵二次函数y=ax²+bx的图象与x轴交于原点O及另一点C，它的顶点B在函数y=x²-2x-1的图象的对称轴上．
∴二次函数y=ax²+bx的对称轴为：直线x=1，
∴点C和点O关于直线x=1对称，
∴点C的坐标为（2，0）．
（2）因为四边形AOBC是菱形，所以点B和点A关于直线OC对称，
因此，点B的坐标为（1，2）．
因为二次函数y=ax²+bx的图象经过点B（1，2），C（2，0），
所以

a+b＝2 4a+2b＝0

，
解得

a＝−2 b＝4

，
所以二次函数y=ax²+bx的关系式为y=-2x²+4x．