专家观察 | 林尚泉:“小米结构化存储系统及融合云平台的设计与
|
而数据冷备我们实现了一个工具,是可以把HBase一些snapshot推到AWS S3,需要的时候再拉下来.结构化数据存储系统暂时介绍到这里. 我们来看一下融合云平台.这个是小米融合云平台的控制台的首页,可以看到它除了刚才介绍的结构化存储之外,还包括的文件存储,团队管理,流式消息队列和深度学习等等的一些服务,我们的愿景是把它打造成一个闭环的集计算和存储于一体的云服务平台,更好的给小米的用户和生态链公司进行服务.然后用户要访问上面的任何一个服务都要通过团队管理,自己去申请一些team等等. 这个是我们融合云平台的架构图,中间主要的服务是Zookeeper、HDFS、HBase等等服务,在上面有SDS、FDS、EMQ,还有其他服务等等,外围有一些公用的组件就是部署服务,我们为了方便我们集群的管理还有一些升级部署,我们开发了一套公用的部署系统,所有的部署都是通过融合云的部署系统. 还有一套公用的报警系统,并且用户访问的时候都要通过团队认证管理提供一个统一的认证入口.下面来简单介绍一下三模块,融合云通过一个CloudManager进行了团队认证管理,用户可以对CloudManager发一些团队管理请求,添加或删除team等,这个模块就会把这些信息存在MySql,比如用户要访问我们的结构化存储或者文件存储的服务,如果前端过来的请求,前端首先会把这个请求转发到CloudManager这个模块,CloudManager经过验证以后会从MySQL读出团队信息,再放到http header里面再转发到后端service. 如果通过SDK直接访问service,要通过签名进行认证才的,具体是service调CloudManager的RestfulAPI,这个Restful API会返回用户的团队信息,service再把这个解密,算一个签名出来,再做对比. 融合云的部署系统是使用了我们小米发的Minos2.0,1.0已经开源,2.0实际上是在1.0的基础上增加了一些认证授权的模块,主要包括Tank管理服务器,集群每一个节点都用supervisor监控,提供了工具来给用户做集群的升级等等,这些操作都需要经过CloudManager进行认证,主要是为了保证只有集群的owner或者对这个集群有相应的权限的用户才可以进行相应的操作. (编辑:网站开发网_盐城站长网 ) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |

