Comments
Description
Transcript
您的大数据是热、温还是冷?第 2 文:
您的大数据是热、温还是冷?第 2 部分 原文原文:http://ibmdatamag.com/2012/07/is-your-big-data-hot-warm-or-cold-2/ 多温度工作负载管理 作者:Dan Gibson |发布日期:2012 年 7 月 6 日|评论次数:68 在本系列的第一部分,重点是开发一套关键性能指标 (KPI),以更好地了解您的数据“温度”。表 1 描述了在讨论多温度数据或存储时 所使用的普遍接受的分类。 分类 描述 热 访问频率很高 温 访问频率较低 冷 极少访问 表 1:多温度数据分类 本文提供了一个高层次的观点,说明工作负载管理 (WLM) 如何根据业务需求和被访问的数据的“温度”,帮助确定查询的优先级并执 行它。 管理多温度工作负载 让我们来看看,图片是否真的胜过千言万语。如表 2 所示,我们可以假设,以下的高、中、低优先级的定义与被访问的数据的温度有关。 优先级 数据温度 描述 高 1 到 3 个月 只有极少控制可以管理查询。存在并发控制, 在有需要的时候作为节流的方式。阈值主要用 作预警机制。 中 4 到 9 个月 存在并发控制,以确保高优先级的查询不会受 到影响。阈值用作一种警告和中止查询的方式。 低 10 个月或以上 非常有限的并发。阈值用于中止查询。 表 2:数据温度优先级的定义 图 1 中的工作流显示了按数据的年龄(或温度)管理的工作负载。在这个示例中,不到 4 个月的数据查询时作为高度优先级;4 至 10 个月的数据是中优先级;而 10 个月及以上的数据是低优先级。 图 1:多温度工作负载管理 实施并发控制和阈值 图 2 显示了并发控制,用于确定可在给定优先级上执行的并发查询数量。 图 2:在工作负载管理工作流中实施队列和阈值。 如果查询的数量比允许并发执行的数量更多,则会将这些查询放进一个队列。当并发执行的查询数量降至低于指定的并发水平时,排队 的查询被自动释放执行。图 2 还显示了,可以定义阈值,而表 3 列出了可以实施的阈值子集,以及针对每个阈值提供的操作。可用阈 值的完整列表和描述可以在面向 Linux、UNIX 和 Windows 的 IBM® DB2® 10.1 Information Center 的 “Control of work with thresholds” 部分中找到。 阈值名称 可用操作 Number of concurrent activities 继续或停止执行 Number of rows returned 继续或停止执行 Number of rows read 继续或停止执行 Estimated SQL cost 继续或停止执行 Unit of work time 继续或停止执行,或执行应用程序 Activity total time 继续或停止执行 CPU time 继续或停止执行 Amount of temporary space 继续或停止执行 Amount of aggregate temporary 继续或停止执行 space Connection idle time 继续或停止执行 Number of concurrent 继续或停止执行 connections 表 3:可能的工作负载管理阈值 走向全球化 对于那些熟悉工作负载管理的人来说,图 2 显示了在服务类级别实施的队列。在 DB2 中,您还可以在其他级别实施队列,如工作负载 定义级别。使用在文章 “Going Global with Data Mart Consolidation” 中列出的国家,您也可以定义并发控制(以及其他 WLM 构造), 其中每个国家都是一个独立的工作负载,有自己的一套并发控制。为简单起见,图 3 中只显示了中国和巴西的并发控制。 图 3:定义中国和巴西的并发控制。 使用多温度工作负载管理与存储组 存储组非常适合于 WLM 多温度存储架构的实现和管理。图 4 显示的数据在使用存储组 HOT、WARM 和 COLD 定义的表空间中是 范围分区的。每个存储组都定义了一种不同类型的存储。 图 4:存储组和表空间配置。 虽然本文不介绍实现细节,但是,请注意,DB2 WLM 可以识别任何特定查询访问的表空间,然后采取相应的操作来确定每个查询的优 先级,并管理每个查询。从工作负载管理的角度来看,图 1、2 和 3 中的示例直接应用到图 4 所示的配置。 在我的下一篇文章中,我将演示如何根据业务需求,使用 SQL 实现多温度工作负载管理解决方案。同时,随时欢迎在评论中分享您的 多温度工作负载管理经验。 相关主题 1. 您的大数据是热、温还是冷? 2. 大数据,大时代 3. 迎接来自仓库的大数据 4. 飞向 PB 星球的飞船 5. 大数据对数据分析的影响