近日，腾讯云客户北京清博数控科技有限公司所属“前沿数控”平台一块操作系统云盘发生故障，导致该客户的文件系统元数据损坏，我们对客户业务所受影响表示诚挚歉意。同时，我们也对此次故障过程进行了深入的技术复盘。
复盘发现，该故障缘起于因磁盘静默错误导致的单副本数据错误，再加上数据迁移过程中的两次不规范的操作，导致云盘的三副本安全机制失效，并最终导致客户数据完整性受损。
痛定思痛，腾讯云希望在尽力帮助客户解决本次问题的同时，也通过相关机制的优化避免类似情况的再度发生。
故障过程复盘
当天上午11:57，我们的运维人员收到仓库Ⅰ空间使用率过高告警，准备发起搬迁扩容；在14:05时，运维人员从仓库Ⅰ选择了一批云盘搬迁至新仓库Ⅱ，为了加速搬迁，手动关闭了迁移过程中的数据校验；在20:27 搬迁完成之后，运维人员将客户的云盘访问切至仓库Ⅱ，同时为了释放空间，对仓库Ⅰ中的源数据发起了回收操作；到20:30 监控发现仓库Ⅱ部分云盘出现IO异常。
故障原因复盘
本次事故起源自因磁盘静默错误导致的单副本数据错误，再由于数据迁移过程中的不规范操作，导致异常数据扩散至三副本，进而导致客户数据完整性受损。
数据搬迁过程中的违规操作主要如下两点：
第一是正常数据搬迁流程默认开启数据校验，开启之后可以有效发现并规避源端数据异常，保障搬迁数据正确性，但是运维人员为了加速完成搬迁任务，违规关闭了数据校验；
第二是正常数据搬迁完成之后，源仓库数据应保留24小时，用于搬迁异常情况下的数据恢复，但是运维人员为了尽快降低仓库使用率，违规对源仓库进行了数据回收。
因这些错误操作的连续影响，导致该客户数据完整性受损，给客户的正常业务运行造成影响，腾讯云对此再次表示最诚恳的歉意。
改进措施:
经过技术复盘，腾讯云技术团队深入到每个环节，通过责任到人与流程闭环的双管齐下，相应作出如下的加强和改进措施：
首先，我们将全面审视所有的数据流程，涉及数据安全的流程自动化闭环，进一步提升我们常规运维自动化和流程化，降低人工干预。同时把全流程的数据安全校验作为系统的常开功能，不允许被关闭。
其次，针对物理硬盘静默数据错误，在当前用户访问路径数据校验自愈的基础上，我们优化现有巡检机制，通过优先巡检主副本数据块、跳过近期用户访问过的正确数据块等方法，加速发现该类错误，进行数据修复。
进一步建议：
腾讯云自2016年3月以来一直在提供免费的快照功能，可以对重要数据进行定期备份。同时出于对客户数据隐私性和安全性的考虑，客户可以自由选择开启或者不开启这一免费功能。腾讯云在这里也呼吁客户开启这一功能，进一步提升自身数据的安全性。
未来，本着对客户数据最大的敬畏，腾讯云将继续探索更科学的机制，避免类似事件再次发生。
腾讯云
2018年08月07日
声明：本文来自腾讯云，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
