五大数据库理念，读懂亚马逊云科技的数据库布局

1970 年，关系型数据库之父 E.F.Codd 发表《用于大型共享数据库的关系数据模型》论文，正式拉开数据库技术发展序幕。以 Oracle、DB2、SQL Server 为代表的三大商业数据库产品独占鳌头，随后涌现出 MySQL、PostgreSQL 等为代表的开源数据库 ，和以 Amazon RDS 等为代表的云数据库，拉开百花齐放的数据库新序幕。

创新互联公司主营临泽网站建设的网络公司,主营网站建设方案,app软件开发,临泽h5微信平台小程序开发搭建,临泽网站营销推广欢迎临泽等地区企业咨询

我们知道，云计算十年为产业转型升级提供了 历史 性契机，但变革仍在进行，随着云计算的普及，数据库市场发生根本性改变，云厂商打破传统商业数据库的堡垒，成为数据库领域全新力量。其中以连续六年入选 Gartner 领导者象限的亚马逊云 科技 为代表，我们一起探讨：为什么亚马逊云 科技 能始终保持其创新性？纵观云原生时代下，亚马逊云 科技 数据库未来还有哪些更多的可能性？

01 面对四大数据库发展趋势，亚马逊云 科技 打造五大数据库理念

后疫情时代下，加速了不少行业的业务在线化和数字化运营，企业对数据价值挖掘的需求越发强烈，亚马逊云 科技 大中华区产品部总经理顾凡详细介绍其中四大趋势：

一是伴随互联网、移动互联网的发展，电商、视频、社交、出行等新应用场景的兴起，不仅数据量大，对数据实时性要求极高，传统关系型数据库无法满足需求，因此驱动云原生数据库的出现。

二是开源数据库的广泛应用。

三是应用程序现代化对数据库提出更高要求，期待数据库拥有更高的性能、可扩展性、可用性以及降低成本，让开发人员专注于核心业务的应用开发，不用关注和核心业务无关的代码。

四是软件架构历经 PC、互联网、移动互联网，再到如今的万物互联时代，其中的迭代和转型正在驱动数据库选型的变化。

在此四大趋势下，伴随企业的业务量越来越大、越来越复杂，对数据库的要求越来越高。亚马逊云 科技 洞察客户需求，在打造云上数据库产品时提出五大理念：

一是专库专用，极致性能；二是无服务器，敏捷创新；第三是全球架构，一键部署；第四是平滑迁移，加速上云；第五是 AI 赋能，深度集成。

02 历经真实锤炼，五大数据库理念，持续赋能企业数智转型

顾凡表示，随着数据爆炸式增长，微服务架构与 DevOps 愈发流行的今天，一个数据库打天下的时代已然过去。我们需要在不同的应用场景下，针对不同的数据类型和不同的数据访问特点，为开发者和企业提供专门构建的工具。

所以亚马逊云 科技 提出 第一个核心数据库理念：专库专用 。在此理念下，推出针对关系数据、键值数据、文档数据、内存数据、图数据、时许数据、分类账数据、宽列等专门构建数据库的产品家族。

这些数据库产品均经历过亚马逊内部核心业务的真实锤炼，成绩斐然：

亚马逊电商当年是 Oracle 的客户之一，随着亚马逊电商的应用重构和业务体量发展，亚马逊电商决定将业务迁移到亚马逊云 科技 里。100 多个团队参与这庞大的迁移工作中，将亚马逊电商采购、目录管理、订单执行、广告、财务系统、钱包、视频流等关键系统全部从 Oracle 迁出来。2019 年，亚马逊将存储近 7500 个Oracle 数据库中的 75 PB 内部数据迁移到多项亚马逊云 科技 的数据库服务中，包括 Amazon DynamoDB、Amazon Aurora、Amazon ElastiCache，于是亚马逊电商成为亚马逊云 科技 在全球的“第一大客户”。

从 Oracle 切换到亚马逊云 科技 后，亚马逊电商节省了 60% 成本，面向消费者端的应用程序延迟降低 40%，数据库管理支出减少 70%。

以被誉为“亚马逊云 科技 历史 上用户数量增速最快的云服务”Amazon Aurora 为例，其拥有科媲美高端商业数据库的速度和可用性，还拥有开源数据库的简单性与成本效益，Amazon Aurora 让客户满足“鱼和熊掌兼得”需求。

据顾凡介绍，Amazon Aurora 可提供 5 倍于标准 MySQL 性能，3 倍于 PostgreSQL 吞吐量。同时提供高可用，可用区（AZ）+1的高可用，Global Databases 可完成跨区域灾备。可扩展到 15 个只读副本，成本只有商业数据库的 1/10。

医药企业九州通为药厂、供应商，搭建药厂、供应商、消费者提供供应链链条。其 B2B 系统的业务特点是读多写少，受促销活动、工作时间等影响，经常会出现波峰波谷落差较大的情况，读写比例在 7：2 或者 8：3。九州通采用 Amazon Aurora 后实现读写分离和按需扩展，整体数据库性能提升 5 倍，TCO 降低 50%。实现了跨可用区部署、负载均衡、自动故障转移、精细监控、按需自动伸缩等。

据权威机构预测，到 2022 年，75% 数据库将被部署或迁移至云平台。在这个过程中，亚马逊云 科技 是如何通过技术来帮助客户加速应用上云的？这离不开除了上述的“专库专用”外，以下四大理念：

第二个理念是无服务器、敏捷创新。 亚马逊云 科技 大中华区产品部数据类产品高级经理王晓野表示，企业业务总有波峰波谷之时，如何按照企业 80-90% 的业务峰值来规划数据库的存储容量和计算资源的话，将给应用带来一定的业务连续性的妥协和挑战。因此大多数企业都是按照峰值留有余地来选择数据库的计算资源，这将造成成本上的浪费。而 Serverless 数据库服务可完成无差别的繁复工作和自动化扩展。

Amazon DynamoDB 是亚马逊云 科技 自研 Serverless 数据库，其诞生最早可追溯到 2004 年，当时亚马逊电商作为 Oracle 的客户，尽管对于关系型数据库在零售场景的需求并不频繁，70% 均是键值类操作，此时倒逼亚马逊电商思考：为什么要把关系型数据库这么重得使用？我们可以设计一款支持读写、可横向扩展的分布式数据库吗？后来的故事大家都知道了，这款数据库就是 Amazon DynamoDB，并在 2007 年发表论文，掀起业界 NoSQL 分布式数据库技术创新大潮。

Amazon DynamoDB 可为大规模应用提供支持，支撑亚马逊自身多个高流量网站和系统，如亚马逊电商网站、亚马逊全球 442 个物流中心等。在亚马逊电商一年一度 Prime Day，光是针对DynamoDB API 的调用达到数万亿次，最高峰值请求达到每秒 8920 万次。由此可见，DynamoDB 拥有高吞吐、扩展性、一致性、可预测响应延迟、高可用等优势。

智能可穿戴设备厂商华米 科技 ，在全球 70 多个国家拥有近 1 亿用户。仅 2020 年上半年，其手表出货量超 174 万台，截止到 2021 年 2 月，华米 科技 的可穿戴设备累计记录步数是 151 万步，累计记录的睡眠时间是 128 亿个夜晚，记录心率总时长达 1208 亿个小时。如此庞大的数据同时必须保证极高的安全性和低延迟相应，如何保证稳定性是巨大的挑战。

DynamoDB 帮助华米 科技 在任何规模下都能提供延迟不超过 10 毫秒的一致响应时间。华米 科技 健康 云的 P0 和 P1 级别故障减少了约 30%，总体服务可用性提升了 0.25%，系统可用性指标达到 99.99%，为华为 科技 全球化扩展提供了有力的支撑。

最新无服务数据库产品是 Amazon Aurora Serverless V2 提供瞬间扩展能力，真正把扩展能力发挥到极致，在不到一秒的时间内，将几百个事务扩展到数十万的级别。同时在扩展时每一次调整的增量都是非常精细化的去管理，如果按照峰值来规划数据库资源，可实现大概90%的成本节省。目前 Amazon Aurora Serverless V2 在全球实现预览。

第三个理念是全球架构、一键部署。 在全球化的今天，如何支撑全球客户的业务扩展连续性、一致性、以最低延迟带给到终端客户上，对数据库提出新的挑战。

亚马逊云 科技 提供 Amazon Aurora 关系型数据库Global Database、Amazon DynamoDB、Amazon ElastiCache 内存数据库、Amazon DocumentDB 文档数据库都能利用亚马逊云 科技 的骨干网络提供比互联网更稳定的网络支撑，以一键部署的方式，帮助客户实现几千公里跨区域数据库灾备，故障恢复大概能在一分钟之内完成，同时跨区域的数据复制延迟通常小于一秒。

第四个理念是平滑迁移、加速上云。 目前，450000+ 数据库通过亚马逊云 科技 数据库迁移服务迁移到亚马逊云 科技 中，这个数字每年都在不断增长。亚马逊云 科技 提供 Amazon DMS、Amazon Database Migration Service 等工具让开发者和企业进行自助式云迁移。另外，对于迁移过程中可能会需要的支持，可通过专业服务团队和合作伙伴网络成员，为客户提供专业支持，还通过 Database Freedom 项目帮助客户降低他们的顾虑。

今年 11 月，最新产品 Babelfish for Amazon Aurora PostgreSQL 在全球和中国两个区域正式可用，可加速企业上云的迁移，实现让企业可以利用原有的技术栈、原有的 SQL Server T-SQL的人员可以利用到云数据库进行创新。

第五个理念是 AI赋能，深度集成。 我们观察到，ML 技术赋能数据库开发者，开发者无需具备机器学习专业知识，就可进行机器学习操作。在此潮流下，亚马逊云 科技 推出 Amazon Neptune，借由 Deep Graph Library 和 Amazon SageMaker 驱动图神经网络。

今年 8 月，Neptune ML 在中国正式可用，允许数据工程师不需要掌握机器学习的技能直接从图数据库里导出数据、转换格式、训练模型并发布，用 gremlin 语句调用训练成的模型在数据库里实现推理，进行欺诈检测，推荐物品。

目前，亚马逊云 科技 加速在中国区域服务落地，2021年至今新发布 60 多个数据库服务与功能。亚马逊云 科技 正是通过上述五大数据库理念，打造丰富的数据库产品家族，在全球智能化发展趋势下，为企业提供更快更好的数智服务，释放数据价值，并连续六年入选 Gartner 领导者象限，得到业界和客户的深度认可。

NoSQL 数据库：何时使用 NoSQL 与 SQL？

NoSQL 数据库因其功能性、易于开发性和可扩展性而广受认可，它们越来越多地用于大数据和实时 Web 应用程序，在本文中，我们通过示例讨论 NoSQL、何时使用 NoSQL 与 SQL 及其用例。

NoSQL是一种下一代数据库管理系统 (DBMS)。NoSQL 数据库具有灵活的模式，可用于构建具有大量数据和高负载的现代应用程序。

“NoSQL”一词最初是由 Carlo Strozzi 在 1998 年创造的，尽管自 1960 年代后期以来就已经存在类似的数据库。然而，NoSQL 的发展始于 2009 年初，并且发展迅速。

在处理大量数据时，任何关系数据库管理系统 (RDBMS) 的响应时间都会变慢。为了解决这个问题，我们可以通过升级现有硬件来“扩大”信息系统，这非常昂贵。但是，NoSQL 可以更好地横向扩展并且更具成本效益。

NoSQL 对于非结构化或非常大的数据对象（例如聊天日志数据、视频或图像）非常有用，这就是为什么 NoSQL 在微软、谷歌、亚马逊、Meta (Facebook) 等互联网巨头中特别受欢迎的原因。

一些流行的 NoSQL 数据库包括：

随着企业更快地积累更大的数据集，结构化数据和关系模式并不总是适合。有必要使用非结构化数据和大型对象来更好地捕获这些信息。

传统的 RDBMS 使用 SQL（结构化查询语言）语法来存储和检索结构化数据，相反，NoSQL 数据库包含广泛的功能，可以存储和检索结构化、半结构化、非结构化和多态数据。

有时，NoSQL 也被称为“ 不仅仅是 SQL ”，强调它可能支持类似 SQL 的语言或与 SQL 数据库并列。SQL 和 NoSQL DBMS 之间的一个区别是 JOIN 功能。SQL 数据库使用 JOIN 子句来组合来自两个或多个表的行，因为 NoSQL 数据库本质上不是表格的，所以这个功能并不总是可行或相关的。

但是，一些 NoSQL DBMS 可以执行类似于 JOIN的操作——就像 MongoDB 一样。这并不意味着不再需要 SQL DBMS，相反，NoSQL 和 SQL 数据库倾向于以不同的方式解决类似的问题。

一般来说，在以下情况下，NoSQL 比 SQL 更可取：

许多行业都在采用 NoSQL，取代关系数据库，从而为某些业务应用程序提供更高的灵活性和可扩展性，下面给出了 NoSQL 数据库的一些企业用例。

内容管理是一组用于收集、管理、传递、检索和发布任何格式的信息的过程，包括文本、图像、音频和视频。NoSQL 数据库可以通过其灵活和开放的数据模型为存储多媒体内容提供更好的选择。

例如，福布斯在短短几个月内就构建了一个基于 MongoDB 的定制内容管理系统，以更低的成本为他们提供了更大的敏捷性。

大数据是指太大而无法通过传统处理系统处理的数据集，实时存储和检索大数据的系统在分析 历史 数据的同时使用流处理来摄取新数据，这是一系列非常适合 NoSQL 数据库的功能。

Zoom使用 DynamoDB（按需模式）使其数据能够在没有性能问题的情况下进行扩展，即使该服务在 COVID-19 大流行的早期使用量激增。

物联网设备具有连接到互联网或通信网络的嵌入式软件和传感器，能够在无需人工干预的情况下收集和共享数据。随着数十亿台设备生成数不清的数据，IoT NoSQL 数据库为 IoT 服务提供商提供了可扩展性和更灵活的架构。

Freshub就是这样的一项服务，它从 MySQL 切换到 MongoDB，以更好地处理其大型、动态、非统一的数据集。

拥有数十亿智能手机用户，可扩展性正成为在移动设备上提供服务的企业面临的最大挑战。具有更灵活数据模型的 NoSQL DBMS 通常是完美的解决方案。

例如，The Weather Channel使用 MongoDB 数据库每分钟处理数百万个请求，同时还处理用户数据并提供天气更新。

AWS开源可跨关联式与NoSQL数据库的查询语言PartiQL

AWS推出了与SQL兼容的查询语言PartiQL，只要数据库查询引擎提供PartiQL支持，使用者就能以PartiQL单一查询关联式数据库的结构化资料，以及开放资料格式中的巢状资料或是半结构化资料，甚至还能用来查询NoSQL或是文件数据库中无固定结构（Schema-less）的资料。除了AWS自家的数据库服务，NoSQL数据库Couchbase Server也承诺将会支持PartiQL。

企业资料分散在关联式数据库、非关联式数据库以及资料湖泊中。高度结构化的资料，储存在SQL数据库或是资料仓储；无固定结构的资料则由键值储存、图形数据库（Graph Database）、分类帐数据库或是时间序列数据库等NoSQL数据库处理；而在资料湖泊中的资料，可能也有部分缺乏结构，或是可能为巢状或是多值结构。不同的资料类型适用于不同的使用案例，而每种类型的资料，可能都有自己的查询语言。

不同的资料储存对应不同的查询语言，当企业更换资料格式或是数据库引擎时，可能还需要跟着改变应用程式和查询语法，AWS提到，这对于资料的应用，特别是使用资料湖泊的灵活性与效率，有着很大的阻碍。为了统一不同类型数据库存取方法，AWS发布了查询语言PartiQL，这是个与SQL兼容的查询语言，可以用来查询以各种格式储存在各地的资料。

用户可以使用PartiQL来查询关联式数据库，像是在Redshift实作交易或是资料分析等应用，或对于Amazon S3资料湖泊的开放资料格式，同样能使用PartiQL对巢状资料与半结构化资料例如Amazon Ion格式进行查询，另外，PartiQL也可用于文件数据库等NoSQL数据库，查询无固定结构的资料。

AWS表示，PartiQL的出现，是为了满足自家查询和转换大量资料的需求，其提供严格的SQL兼容性，可与标准SQL混合使用，执行连接（Join）、过滤（Filtering）与聚合（Aggregation）操作，并以最小扩充支持巢状和半结构化资料，让开发者以简单且一致的方法，不需要更改查询语言，就能查询各种格式和服务的资料。

PartiQL具格式独立性与储存独立性，PartiQL语法和语义不依赖任何资料格式，无论使用者是要查询JSON、Parquet、ORC、CSV还是Ion等格式，查询语句的写法都相同，PartiQL的查询在综合逻辑类型系统上运作，才对应到不同底层的格式。而PartiQL也不相依于特定资料储存，因此适用于不同的底层资料储存。

虽然过去针对跨不同类型数据库查询的问题，已有不少解决方案，AWS指出，像是Postgres JSON同样也兼容于SQL，但是却无法良好地处理JSON巢状资料；而半结构化查询语言，虽然能良好处理巢状资料，但却无法与SQL语言兼容。AWS提到，PartiQL是第一个能够完全解决这些问题的查询语言。

目前AWS已在自家多项服务支持PartiQL，包括Amazon S3 Select、Amazon Glacier Select、Amazon Redshift Spectrum、Amazon QLDB，接下来几个月将会有更多的AWS服务支持PartiQL，Couchbase也公布将加入支持PartiQL的行列。现在PartiQL以Apache2.0授权许可开源，公开教学、规范以及参考实作，所有社群都能使用并参与贡献。

如何玩转NoSQL数据库

如何玩转 NoSQL数据库？作者：IT专家网

Weather公司CIO Bryson Koehler整理出了MongoDB，Riak和Cassandra等NoSQL数据库的特性。他指出这其中最重要的特性是“NoSQL不会限制住你”。

Weather公司，致力于天气报告和天气预报业务，其并不缺乏数据，当然也不缺乏数据管理工具。但它为什么需要三种不同的NoSQL数据库？

最近，我向Weather 公司的CIO Bryson Koehler提出了这个疑问，除了公司的CIO,Bryson Koehler还是其他很多业务单元的孵化者,包括Weather Channel，WeatherFX，Weather Underground，和Intellicast等。Weather公司每天获取和处理着约20万亿字节数据，对外提供当前全球天气状况，并为航空公司，紧急服务，货运商，公用事业，保险，以及在线天气网站和天气应用程序的用户提供天气预报服务。每天需求增加了数十亿的天气数据请求，并且预期响应时间要在10毫秒左右。

Riak是Weather 公司的后台NoSQL数据库，服务于公司的事务性存储公用网络(SUN)数据获取平台，它运行在多个亚马逊网络服务(AWS)的可用区域上，并以每小时15次的频率捕获超过20亿气象数据信息，。所以，Riak具有明确的处理规模，但该公司也使用Cassandra以及新近添加的MongoDB数据库，为Weather.com 上IOS和Android移动应用程序服务。

Weather 公司使用了不同的产品，Koehler解释说，因为“不同的工具有不同的优势。

Cassandra，它服务于Weather 公司以及全球消费者使用的第三方天气应用的API数据：“我们的数据分发平台每秒处理数十万的事务，我们发现Cassandra在用于全球分发数据上是一个很棒的解决方案，并且在[数据库]读取方面体现出很高的可用性 “。它本质上为全球各地消费者所使用的数据服务，包括Weather 公司和第三方的天气应用程序。

MongoDB，它提供了Weather.com网站和移动应用程序的中间层缓存功能：“离开我们的核心API，我们还没有全部Weather.com内容，所以MongoDB是容器和分发站，为Weather.com以及Android和iOS上的移动应用程序服务。Mongo有很多好处，这些好处基于其内建的JSON格式以及灵活性上。“

Riak，用于消费气象数据和观测，包括来自世界各地的图片和视频等：“我们喜爱Riak因其优秀的数据摄取能力，而且是以一种全球分布式的方式来实现。这对于从全球分布式平台上获取数据的入站式数据库是一个真正可靠的选择。

我曾听说Datastax，Basho和Couchbase的高管贬低MongoDB的可扩展性，但MongoDB指向大规模部署，在Facebook对超过200万台移动设备上应用程序提供支持，在eHarmony公司，MongDB每天处理着数十亿的潜在比赛预约。据Koehle所述，MongoDB为Weather.com和Weather.com移动应用程序处理着“每天十亿交易”，“毫无疑问，你可以通过配置和部署Mongo来处理大批量的交易数据。”

尽管如此，Koehler承认，他将“很乐于看到MongoDB继续使全球集群和多位置[功能]更加无缝化且易于使用。” 这些属于全球性的分布式集群，复制和负载平衡是Cassandra和Riak众所周知的功能。

从规模讨论的角度来看，很少有公司达到Weather公司的经营规模。易于开发，架构灵活性和JSON数据处理使得MongoDB的成为世界上最流行的NoSQL数据库。这就是为什么微软和IBM都进行了MongoDB的模仿，如微软的Azure DocumentDB和IBM的 Cloudant，而不是Cassandra和Riak。

Weather公司可以从三个NoSQL标准降低至两个的过程中得到巩固，Koehler说，但公司没有准备好这么做。

“由于我们构造了由许多不同的数据解决方案组成的网状结构，我们目前的环境已过于复杂，”他说。“我们希望给团队一些自由的空间，让我们可以了解所有选择的利弊，但你将会看到一些整合。”

到了那个时候，迁移将不在是一件难事，因为“关于NoSQL数据库最重要的事情是，你不会被困在其中，” Koehler说。“如果你的架构和编码正确，从一个数据库迁移到另一个并不难。随着模式的自由以及数据转存技术的发展，无论前者是一个key-value存储或其他什么形式，转储数据都将十分容易。“

对特定产品进程自定义编码的复杂的存储过程已经一去不复返了，Koehler说，但关于“结构化和编码正确”还有很多需要考虑的地方?这样做是为了避免特殊供应商提供的工具和功能可能让你身陷其中。他举了亚马逊网络服务“(AWS)的消息服务为例。

“你不必让服务在云中运行，”他解释说。“你可以只部署自己的RabbitMQ的环境，而不是陷于其中，所以你可以将一个原先部署在AWS 上的应用程序转而部署在谷歌计算云服务上。无论它是数据平台，存储环境，或云计算环境，都要小心别让自己局限在一个仅由一个供应商提供的小范围空间内“。

转载

当前标题：亚马逊nosql数据库,什么是nosql数据库
文章分享：http://myzitong.com/article/dseegjg.html