自交一次,Aa为1/2,
自交两次,Aa为1/4,
自交三次,Aa为1/8.
同理,自次三次Bb为1/8.
所以基因型为AaBb的水稻连续自交3次,在F3中AaBb所占的比例可能是：1/64 .
答案是D.
（如果有别的可能,那就是题目不全）