方程x²+2ax+b=0在（-∞，+∞）上有两个零点
即△=4a²-4b＞0，即b＜a²，
合乎条件的区域面积S=

∫

10

x2dx＝

1

3

，
而a，b∈（0，1）对应的区域面积为1，
∴P=

1 3

1

＝

1

3

故选D