①脱氧核糖中不含有P元素，该化合物中不可能具有放射性，①错误；
②核膜的基本骨架是磷脂双分子层，因此核膜上具有放射性，②正确；
③细胞壁的成分是纤维素和果胶，组成元素是C、H、O，无P元素，因此细胞壁中不可能含有放射性，③错误；
④线粒体基质是有氧呼吸第二阶段的场所含有ATP和ADP及Pi，因此含有放射性，④正确；
⑤RNA的组成元素是C、H、O、N、P，因此转运RNA中含有放射性，⑤正确．
故选：D．