大数据时代数据存储解决方案(完整版)课件.pptx
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《大数据时代数据存储解决方案(完整版)课件.pptx》由用户(三亚风情)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 完整版 数据 时代 存储 解决方案 课件
- 资源描述:
-
1、大数据时代数据存储解决方案目录大数据带来哪些技术变革云时代大数据的特点12大数据架构和具体实践3大量用户群体海量计算大量数据管理数据分析大数据定义-不同行业的不同声音云时代的大数据特点Volume-巨巨 量量Variety-多样性多样性 Value-价值密度价值密度数据量巨大全球在2010 年正式进入ZB 时代IDC预计到2020 年,全球将总共拥有40ZB 的数据量结构化数据、半结构化数据和非结构化数据如今的数据类型早已不是单一的文本形式,订单、日志、音频,能力提出了更高的要求沙里淘金,价值密度低一部数小时的视频,可能有用的数据仅仅只有一两秒。如何迅速“提纯”是大数据亟待解决的难题实时获取需
2、要的信息大数据区分于传统数据最显著的特征。如今已是ZB时代,在如此海量的数据面前,处理数据的效率就是企业的生命Velocity-速速 度度信息采集系统全景介绍政府机构(医保,社保)短信通话记录数据分类数据来源运营商存储区域业务平台汇聚、分析、入库医院大型企业交通信息视频监控 Email社保、医保、住宿、交通视频监控网络信息 精确查询人际关系、行为分析跟随分析、人脸识别通话记录、住宿、交通统计报表短信、Email内容过滤等其他信息统计分析内容查询数据导入大数据在各行业的应用社交网络B 2C业务能源媒资地质勘探科研智能电网非线编辑后期制作卫星探测基因工程电子支付票据归档金融互联网公安视频监控视频分
3、析目录大数据各行业需求和应用大数据带来哪些技术变革云时代大数据的特点12大数据架构和具体实践3大数据带来技术变革大数据大数据分析处理分析处理 全球技术研究和咨询公司Gartner将“大数据”技术列入2012年对众多公司和组织机构具有战略意义的十大技术与趋势之一;Gartner在其新兴技术成熟度曲线中将“大数据”技术视为转型技术;传统技术升级已满足不了大数据处理的需求,“大数据”技术将在未来35年内进入主流。其技术形态也会产生较大的变化;存储瓶颈存储瓶颈计算瓶颈计算瓶颈网络瓶颈网络瓶颈数据库瓶颈数据库瓶颈大数据带来哪些技术变革单机单机集群虚拟化集群文件存储单机设备间连接设备内连接关系型数据库横向
4、扩展横向扩展GE FC数据库集群10GE FC IB分布式数据库非关系型数据库块存储10GE SAS IB FC计算存储数据库网络横向扩展(硬件扩展)块虚拟化丰富的增值软件及对外接口横向扩展(硬件+文件系统)文件虚拟化丰富的增值软件及对外接口Hadoop解决方案架构目录什么十大数据大数据各行业需求和应用大数据架构和具体实践大数据带来哪些技术变革云时代大数据的特点12大数据架构和具体实践3在大数据方面不仅仅是平台提供商大数据应用开发提供商大数据系统集成商大数据平台提供商大大数数据据管理管理服务服务提供提供商商除了具有强大的自主研发实力外,还具备丰富的集成优化第三方平台的经验,可根据用户的实际需求
5、,打造适合用户自身特点的大数据服务体系;Scaleout BlockScaleout FilesystemScaleout DBScaleout ObjectScaleout backup分布式存储应用适配,Programmable接口通用服务器网络(交换机,路由器)存储节点 分布式计算和分析批处理(Galax HD)实时处理和内存计算近实时分析和MPP DB内存数据库流处理MapReduceHive,Pig,MashoutHBASEHcatalogSQLQuery PlannerMPP ExecData Bridge管控平面设备管理资源管理(YARN,多户,Zookeeper)策略调度日志留
6、存OLAP视频分析数据可视化内容检索数据挖掘 大数据一体化平台集成SqoopData Loader 集成和优化自研组件合作3rd PartyToolHadoop FS API,NFS/CIFS,Posix,ISCSI,S3大数据统一架构FlumeLuceneCloud OS安全可信弹性高效l 存储池内所有硬盘参与重构,仅重构业务数据l 由传统RAID多对一的重构模式转变为HVS的多对多快速重构模式l 数据恢复速度相对传统RAID提升20倍l 降低95%的多盘失效概率l 大幅降低重构过程对业务的影响传统阵列RAID 2.01TB NLSAS 磁盘重构时间(小时)100.50246810数据重构时
展开阅读全文