[转]NoSQL数据库笔谈

- 日理万妓 2022-09-19 10:52 248阅读 0赞

1.  [序][Link 1]
2.  [思想篇][Link 2]
    
    1.  [CAP][]
    2.  [最终一致性][Link 3]
        
        1.  [变体][Link 4]
    3.  [BASE][]
    4.  [其他][Link 5]
        
        1.  [I/O的五分钟法则][I_O]
        2.  [不要删除数据][Link 6]
        3.  [RAM是硬盘,硬盘是磁带][RAM]
        4.  [Amdahl定律和Gustafson定律][Amdahl_Gustafson]
        5.  [万兆以太网][Link 7]
3.  [手段篇][Link 8]
    
    1.  [一致性哈希][Link 9]
        
        1.  1.  [亚马逊的现状][Link 10]
            2.  [算法的选择][Link 11]
    2.  [Quorum NRW][]
    3.  [Vector clock][]
    4.  [Virtual node][]
    5.  [gossip][]
        
        1.  [Gossip (State Transfer Model)][Gossip _State Transfer Model]
        2.  [Gossip (Operation Transfer Model)][Gossip _Operation Transfer Model]
    6.  [Merkle tree][]
    7.  [Paxos][]
        
        1.  [背景][Link 12]
    8.  [DHT][]
    9.  [Map Reduce Execution][]
    10. [Handling Deletes][]
    11. [存储实现][Link 13]
    12. [节点变化][Link 14]
    13. [列存][Link 15]
        
        1.  [描述][Link 16]
        2.  [特点][Link 17]
4.  [软件篇][Link 18]
    
    1.  [亚数据库][Link 19]
        
        1.  [MemCached][]
            
            1.  [特点][Link 20]
            2.  [内存分配][Link 21]
            3.  [缓存策略][Link 22]
            4.  [缓存数据库查询][Link 23]
            5.  [数据冗余与故障预防][Link 24]
            6.  [Memcached客户端（mc）][Memcached_mc]
            7.  [缓存式的Web应用程序架构][Web]
            8.  [性能测试][Link 25]
        2.  [dbcached][]
            
            1.  [Memcached 和 dbcached 在功能上一样吗?][Memcached _ dbcached]
    2.  [列存系列][Link 26]
        
        1.  [Hadoop之Hbase][Hadoop_Hbase]
        2.  [耶鲁大学之HadoopDB][HadoopDB]
        3.  [GreenPlum][]
        4.  [FaceBook之Cassandra][FaceBook_Cassandra]
            
            1.  [Cassandra特点][Cassandra]
            2.  [Keyspace][]
            3.  [Column family（CF）][Column family_CF]
            4.  [Key][]
            5.  [Column][]
            6.  [Super column][]
            7.  [Sorting][]
            8.  [存储][Link 27]
            9.  [API][]
        5.  [Google之BigTable][Google_BigTable]
        6.  [Yahoo之PNUTS][Yahoo_PNUTS]
            
            1.  [特点][Link 28]
            2.  [PNUTS实现][PNUTS]
                
                1.  [Record-level mastering 记录级别主节点][Record-level mastering]
                2.  [PNUTS的结构][PNUTS 1]
                3.  [Tablets寻址与切分][Tablets]
                4.  [Write调用示意图][Write]
            3.  [PNUTS感悟][PNUTS 2]
        7.  [微软之SQL数据服务][SQL]
    3.  [非云服务竞争者][Link 29]
    4.  [文档存储][Link 30]
        
        1.  [CouchDB][]
            
            1.  [特性][Link 31]
        2.  [Riak][]
        3.  [MongoDB][]
        4.  [Terrastore][]
        5.  [ThruDB][]
    5.  [Key Value / Tuple 存储][Key Value _ Tuple]
        
        1.  [Amazon之SimpleDB][Amazon_SimpleDB]
        2.  [Chordless][]
        3.  [Redis][]
        4.  [Scalaris][]
        5.  [Tokyo cabinet / Tyrant][Tokyo cabinet _ Tyrant]
        6.  [CT.M][]
        7.  [Scalien][]
        8.  [Berkley DB][]
        9.  [MemcacheDB][]
        10. [Mnesia][]
        11. [LightCloud][]
        12. [HamsterDB][]
        13. [Flare][]
    6.  [最终一致性Key Value存储][Key Value]
        
        1.  [Amazon之Dynamo][Amazon_Dynamo]
            
            1.  [功能特色][Link 32]
            2.  [架构特色][Link 33]
        2.  [BeansDB][]
            
            1.  [简介][Link 34]
            2.  [更新][Link 35]
            3.  [特性][Link 36]
            4.  [性能][Link 37]
        3.  [Nuclear][]
            
            1.  [两个设计上的Tips][Tips]
        4.  [Voldemort][]
        5.  [Dynomite][]
        6.  [Kai][]
    7.  [未分类][Link 38]
        
        1.  [Skynet][]
        2.  [Drizzle][]
    8.  [比较][Link 39]
        
        1.  [可扩展性][Link 40]
        2.  [数据和查询模型][Link 41]
        3.  [持久化设计][Link 42]
5.  [应用篇][Link 43]
    
    1.  [eBay 架构经验][eBay]
    2.  [淘宝架构经验][Link 44]
    3.  [Flickr架构经验][Flickr]
    4.  [Twitter运维经验][Twitter]
        
        1.  [运维经验][Link 45]
            
            1.  [Metrics][]
            2.  [配置管理][Link 46]
            3.  [Darkmode][]
            4.  [进程管理][Link 47]
            5.  [硬件][Link 48]
        2.  [代码协同经验][Link 49]
            
            1.  [Review制度][Review]
            2.  [部署管理][Link 50]
            3.  [团队沟通][Link 51]
        3.  [Cache][]
    5.  [云计算架构][Link 52]
    6.  [反模式][Link 53]
        
        1.  [单点失败（Single Point of Failure）][Single Point of Failure]
        2.  [同步调用][Link 54]
        3.  [不具备回滚能力][Link 55]
        4.  [不记录日志][Link 56]
        5.  [无切分的数据库][Link 57]
        6.  [无切分的应用][Link 58]
        7.  [将伸缩性依赖于第三方厂商][Link 59]
    7.  [OLAP][]
        
        1.  [OLAP报表产品最大的难点在哪里？][OLAP 1]
    8.  [NOSQL们背后的共有原则][NOSQL]
        
        1.  [假设失效是必然发生的][Link 60]
        2.  [对数据进行分区][Link 61]
        3.  [保存同一数据的多个副本][Link 62]
        4.  [动态伸缩][Link 63]
        5.  [查询支持][Link 64]
        6.  [使用 Map/Reduce 处理汇聚][Map_Reduce]
        7.  [基于磁盘的和内存中的实现][Link 65]
        8.  [仅仅是炒作?][Link 66]
6.  [附][Link 67]
    
    1.  [感谢][Link 68]
    2.  [版本志][Link 69]
    3.  [引用][Link 70]

序 日前国内没有一套比较完整的NoSQL数据库资料，有很多先驱整理发表了很多，但不是很系统。不材尝试着将各家的资料整合一下，并书写了一些自己的见解。  
本书写了一些目前的NoSql的一些主要技术，算法和思想。同时列举了大量的现有的数据库实例。读完全篇，相信读者会对NoSQL数据库了解个大概。  
另外我还准备开发一个开源内存数据库galaxydb.本书也是为这个数据库提供一些架构资料。  
思想篇

CAP，BASE和最终一致性是NoSQL数据库存在的三大基石。而五分钟法则是内存数据存储了理论依据。这个是一切的源头。

CAP

![dc23x53c_77fkmccfdv_b.png][]

*  C: **C**onsistency 一致性
 *  A: **A**vailability 可用性(指的是快速获取数据)
 *  P: Tolerance of network **P**artition 分区容忍性(分布式)

10年前，Eric Brewer教授指出了著名的CAP理论，后来Seth Gilbert 和 Nancy lynch两人证明了CAP理论的正确性。CAP理论告诉我们，一个分布式系统不可能满足一致性，可用性和分区容错性这三个需求，最多只能同时满足两个。

熊 掌与鱼不可兼得也。关注的是一致性，那么您就需要处理因为系统不可用而导致的写操作失败的情况，而如果您关注的是可用性，那么您应该知道系统的read操 作可能不能精确的读取到write操作写入的最新值。因此系统的关注点不同，相应的采用的策略也是不一样的，只有真正的理解了系统的需求，才有可能利用好 CAP理论。

作为架构师，一般有两个方向来利用CAP理论

1.  key-value存储，如Amaze Dynamo等，可根据CAP三原则灵活选择不同倾向的数据库产品。
2.  领域模型 + 分布式缓存 + 存储 （Qi4j和NoSql运动），可根据CAP三原则结合自己项目定制灵活的分布式方案，难度高。

我准备提供第三种方案：实现可以配置CAP的数据库，动态调配CAP。

*  CA：传统关系数据库
 *  AP：key-value数据库

而对大型网站，可用性与分区容忍性优先级要高于数据一致性，一般会尽量朝着 A、P 的方向设计，然后通过其它手段保证对于一致性的商务需求。架构设计师不要精力浪费在如何设计能满足三者的完美分布式系统，而是应该进行取舍。

不同数据对于一致性的要求是不同的。举例来讲，用户评论对不一致是不敏感的，可以容忍相对较长时间的不一致，这种不一致并不会影响交易和用户体验。而产品价格数据则是非常敏感的，通常不能容忍超过10秒的价格不一致。

CAP理论的证明：[Brewer's CAP Theorem][Brewer_s CAP Theorem]

最终一致性

一言以蔽之：过程松，结果紧，最终结果必须保持一致性

为了更好的描述客户端一致性，我们通过以下的场景来进行，这个场景中包括三个组成部分：

*  存储系统

> 存储系统可以理解为一个黑盒子，它为我们提供了可用性和持久性的保证。

*  Process A

> ProcessA主要实现从存储系统write和read操作

*  Process B 和ProcessC

> ProcessB和C是独立于A，并且B和C也相互独立的，它们同时也实现对存储系统的write和read操作。

下面以上面的场景来描述下不同程度的一致性：

*  强一致性

> 强一致性（即时一致性） 假如A先写入了一个值到存储系统，存储系统保证后续A,B,C的读取操作都将返回最新值

*  弱一致性

> 假如A先写入了一个值到存储系统，存储系统不能保证后续A,B,C的读取操作能读取到最新值。此种情况下有一个“不一致性窗口”的概念，它特指从A写入值，到后续操作A,B,C读取到最新值这一段时间。

*  最终一致性

> 最终一致性是弱一致性的一种特例。假如A首先write了一个值到存储系统，存储系统保证如果在A,B,C后续读取之前没有其它写操作更新同样 的值的话，最终所有的读取操作都会读取到最A写入的最新值。此种情况下，如果没有失败发生的话，“不一致性窗口”的大小依赖于以下的几个因素：交互延迟， 系统的负载，以及复制技术中replica的个数（这个可以理解为master/salve模式中，salve的个数），最终一致性方面最出名的系统可以 说是DNS系统，当更新一个域名的IP以后，根据配置策略以及缓存控制策略的不同，最终所有的客户都会看到最新的值。

变体

*  Causal consistency（因果一致性）

> 如果Process A通知Process B它已经更新了数据，那么Process B的后续读取操作则读取A写入的最新值，而与A没有因果关系的C则可以最终一致性。

*  Read-your-writes consistency

> 如果Process A写入了最新的值，那么Process A的后续操作都会读取到最新值。但是其它用户可能要过一会才可以看到。

*  Session consistency

> 此种一致性要求客户端和存储系统交互的整个会话阶段保证Read-your-writes consistency.Hibernate的session提供的一致性保证就属于此种一致性。

*  Monotonic read consistency

> 此种一致性要求如果Process A已经读取了对象的某个值，那么后续操作将不会读取到更早的值。

*  Monotonic write consistency

> 此种一致性保证系统会序列化执行一个Process中的所有写操作。

**BASE** 说起来很有趣，BASE的英文意义是碱，而ACID是酸。真的是水火不容啊。

*  Basically Availble --基本可用
 *  Soft-state --软状态/柔性事务

> "Soft state" 可以理解为"无连接"的, 而 "Hard state" 是"面向连接"的

*  Eventual Consistency --最终一致性

> 最终一致性， 也是是 ACID 的最终目的。  
>   
>

BASE模型反ACID模型，完全不同ACID模型，牺牲高一致性，获得可用性或可靠性： Basically Available基本可用。支持分区失败(e.g. sharding碎片划分数据库) Soft state软状态 状态可以有一段时间不同步，异步。 Eventually consistent最终一致，最终数据是一致的就可以了，而不是时时一致。  
  
BASE思想的主要实现有  
1.按功能划分数据库  
2.sharding碎片   
  
BASE思想主要强调基本的可用性，如果你需要高可用性，也就是纯粹的高性能，那么就要以一致性或容错性为牺牲，BASE思想的方案在性能上还是有潜力可挖的。  
其他  
I/O的五分钟法则

在 1987 年， [Jim Gray][] 与 Gianfranco Putzolu 发表了这个"五分钟法则"的观点，简而言之，如果一条记录频繁被访问，就应该放到内存里，否则的话就应该待在硬盘上按需要再访问。这个临界点就是五分钟。 看上去像一条经验性的法则，实际上五分钟的评估标准是根据投入成本判断的，根据当时的硬件发展水准，在内存中保持 1KB 的数据成本相当于硬盘中存据 400 秒的开销(接近五分钟)。这个法则在 1997 年左右的时候进行过一次回顾，证实了五分钟法则依然有效（硬盘、内存实际上没有质的飞跃)，而这次的回顾则是针对 SSD 这个"新的旧硬件"可能带来的影响。

![dc23x53c_103c5pxtr9r_b.gif][]  
  
随 着闪存时代的来临，五分钟法则一分为二：是把 SSD 当成较慢的内存（extended buffer pool ）使用还是当成较快的硬盘（extended disk）使用。小内存页在内存和闪存之间的移动对比大内存页在闪存和磁盘之间的移动。在这个法则首次提出的 20 年之后，在闪存时代，5 分钟法则依然有效，只不过适合更大的内存页(适合 64KB 的页，这个页大小的变化恰恰体现了计算机硬件工艺的发展，以及带宽、延时)。

不要删除数据   
Oren Eini（又名Ayende Rahien）建议开发者尽量避免数据库的软删除操作，读者可能因此认为硬删除是合理的选择。作为对Ayende文章的回应，Udi Dahan强烈建议完全避免数据删除。  
  
所谓软删除主张在表中增加一个IsDeleted列以保持数据完整。如果某一行设置了IsDeleted标志列，那么这一行就被认为是已删除的。Ayende觉得这种方法“简单、容易理解、容易实现、容易沟通”，但“往往是错的”。问题在于：  
  
删除一行或一个实体几乎总不是简单的事件。它不仅影响模型中的数据，还会影响模型的外观。所以我们才要有外键去确保不会出现“订单行”没有对应的父“订单”的情况。而这个例子只能算是最简单的情况。……  
  
当采用软删除的时候，不管我们是否情愿，都很容易出现数据受损，比如谁都不在意的一个小调整，就可能使“客户”的“最新订单”指向一条已经软删除的订单。  
  
如果开发者接到的要求就是从数据库中删除数据，要是不建议用软删除，那就只能硬删除了。为了保证数据一致性，开发者除了删除直接有关的数据行，还应该级联地删除相关数据。可Udi Dahan提醒读者注意，真实的世界并不是级联的：  
  
假设市场部决定从商品目录中删除一样商品，那是不是说所有包含了该商品的旧订单都要一并消失？再级联下去，这些订单对应的所有发票是不是也该删除？这么一步步删下去，我们公司的损益报表是不是应该重做了？  
  
没天理了。  
  
问题似乎出在对“删除”这词的解读上。Dahan给出了这样的例子：  
  
我说的“删除”其实是指这产品“停售”了。我们以后不再卖这种产品，清掉库存以后不再进货。以后顾客搜索商品或者翻阅目录的时候不会再看见这种商品，但管仓库的人暂时还得继续管理它们。“删除”是个贪方便的说法。  
  
他接着举了一些站在用户角度的正确解读：  
  
  
订单不是被删除的，是被“取消”的。订单取消得太晚，还会产生花费。  
  
员工不是被删除的，是被“解雇”的（也可能是退休了）。还有相应的补偿金要处理。  
  
职位不是被删除的，是被“填补”的（或者招聘申请被撤回）。  
  
在上面这些例子中，我们的着眼点应该放在用户希望完成的任务上，而非发生在某个  
实体身上的技术动作。几乎在所有的情况下，需要考虑的实体总不止一个。  
  
为了代替IsDeleted标志，Dahan建议用一个代表相关数据状态的字段：有效、停用、取消、弃置等等。用户可以借助这样一个状态字段回顾过去的数据，作为决策的依据。  
  
删除数据除了破坏数据一致性，还有其它负面的后果。Dahan建议把所有数据都留在数据库里：“别删除。就是别  
删除。”  
  
 RAM是硬盘,硬盘是磁带  
[Jim Gray][Jim Gray 1]在过去40年中对技术发展有过巨大的贡献，“内存是新的硬盘，硬盘是新的磁带”是他的名言。“实时”Web应用不断涌现，达到海量规模的系统越来越多，这种后浪推前浪的发展模式对软硬件又有何影响？  
  
[Tim Bray][]早在网格计算成为热门话题之前，就 [讨论过][Link 71]以RAM和网络为中心的硬件结构的优势，可以用这种硬件建立比磁盘集群速度更快的RAM集群。

> 对 于数据的随机访问，内存的速度比硬盘高几个数量级（即使是最高端的磁盘存储系统也只是勉强达到1,000次寻道/秒）。其次， 随着数据中心的网络速度提高，访问内存的成本更进一步降低。通过网络访问另一台机器的内存比访问磁盘成本更低。就在我写下这段话的时候，Sun的 Infiniband产品线中有一款具备9个全互联非阻塞端\*\*换机，每个端口的速度可以达到30Gbit/sec！Voltaire产品的端口甚至更 多；简直不敢想象。（如果你想了解这类超高性能网络的最新进展，请关注Andreas Bechtolsheim在Standford开设的课程。）

各种操作的时间，以2001年夏季，典型配置的 1GHz 个人计算机为标准：

<table> 
 <tbody> 
 <tr> 
 <td>执行单一指令 </td> 
 <td>1 纳秒 </td> 
 </tr> 
 <tr> 
 <td>从L1 高速缓存取一个字 </td> 
 <td>2 纳秒 </td> 
 </tr> 
 <tr> 
 <td>从内存取一个字 </td> 
 <td>10 纳秒 </td> 
 </tr> 
 <tr> 
 <td>从磁盘取连续存放的一个字 </td> 
 <td>200 纳秒 </td> 
 </tr> 
 <tr> 
 <td>磁盘寻址并取字 </td> 
 <td>8 毫秒 </td> 
 </tr> 
 <tr> 
 <td>以太网 </td> 
 <td>2GB/s </td> 
 </tr> 
 </tbody> 
</table>

Tim还指出Jim Gray的  
名言中后半句所阐述的真理：“对于随机访问，硬盘慢得不可忍受；但如果你把硬盘当成磁带来用，它吞吐连续数据的速率令人震惊；它天生适合用来给以RAM为主的应用做日志（logging and journaling）。”   
  
时间闪到几年之后的今天，我们发现硬件的发展趋势在RAM和网络领域势头不减，而在硬盘领域则止步不前。Bill McColl提到用于并行计算的 [海量内存系统已经出现][Link 72]：

> 内 存是新的硬盘！硬盘速度提高缓慢，内存芯片容量指数上升，in-memory软件架构有望给各类数据密集的应用带来数量级的性能提升。小型机架服务器 （1U、2U）很快就会具备T字节、甚至更大量的内存，这将会改变服务器架构中内存和硬盘之间的平衡。硬盘将成为新的磁带，像磁带一样作为顺序存储介质使 用（硬盘的顺序访问相当快速），而不再是随机存储介质（非常慢）。这里面有着大量的机会，新产品的性能有望提高10倍、100倍。

Dare Obsanjo指出 [如果不把这句真言当回事，会带来什么样的恶劣后果][Link 73]—— 也就是Twitter正面临的麻烦。论及Twitter的内容管理，Obsanjo说，“如果一个设计只是简单地反映了问题描述，你去实现它就会落入磁盘 I/O的地狱。不管你用Ruby on Rails、Cobol on Cogs、C++还是手写汇编都一样，读写负载照样会害死你。”换言之，应该把随机操作推给RAM，只给硬盘留下顺序操作。   
  
[Tom White][]是 [Hadoop Core][]项目的提交者，也是Hadoop项目管理委员会的成员。他对Gray的真言中“硬盘是新的磁带”部分作了更深入地探讨。White在讨论MapReduce编程模型的时候指出，为何对于Hadloop这类工具来说， [硬盘仍然是可行的][Link 74]应用程序数据存储介质：

> 本 质上，在MapReduce的工作方式中，数据流式地读出和写入硬盘，MapReduce是以硬盘的传输速率不断地对这些数据进行排序和合并。 与之相比，访问关系数据库中的数据，其速率则是硬盘的寻道速率（寻道指移动磁头到盘面上的指定位置读取或写入数据的过程）。为什么要强调这一点？请看看寻 道时间和磁盘传输率的发展曲线。寻道时间每年大约提高5%，而数据传输率每年大约提高20%。寻道时间的进步比数据传输率慢——因此采用由数据传输率决定 性能的模型是有利的。MapReduce正是如此。

虽然固态硬盘（SSD）能否改变寻道时间/传输率的对比还有待观察， [White文章的跟贴][White]中，很多人都认为 [SSD会成为RAM/硬盘之争中的平衡因素][SSD_RAM]。   
  
Nati Shalom对 [内存和硬盘在数据库部署和使用中的角色作了一番有理有据的评述][Link 75]。 Shalom着重指出用数据库集群和分区来解决性能和可伸缩性的局限。他说，“数据库复制和数据库分区都存在相同的基本问题，它们都依赖于文件系统/硬盘 的性能，建立数据库集群也非常复杂”。他提议的方案是转向In-Memory Data Grid（IMDG），用Hibernate二级缓存或者GigaSpaces Spring DAO之类的技术作支撑，将持久化作为服务（Persistence as a Service）提供给应用程序。Shalom解释说，IMDG

> 提供在内存中的基于对象的数据库能力，支持核心的数据库功能，诸如高级索引和查询、事务语义和锁。IMDG还从应用程序的代码中抽象出了数据的拓扑。通过这样的方式，数据库不会完全消失，只是挪到了“正确的”位置。

IMDG相比直接RDBMS访问的优势列举如下：

*  位于内存中，速度和并发能力都比文件系统优越得多
 *  数据可通过引用访问
 *  直接对内存中的对象执行数据操作
 *  减少数据的争用
 *  并行的聚合查询
 *  进程内（In-process）的局部缓存
 *  免除了对象-关系映射（ORM）

你是否需要改变对应用和硬件的思维方式，最终取决于你要用它们完成的工作。但似乎公论认为，开发者解决性能和可伸缩性的思路已经到了该变一变的时候。

Amdahl定律和Gustafson定律 这里，我们都以S(n)表示n核系统对具体程序的加速比，K表示串行部分计算时间比例。

Amdahl 定律的加速比：S(n) ＝ 使用1个处理器的串行计算时间 / 使用n个处理器的并行计算时间

S(n) = 1/(K+(1-K)/n) = n/(1+(n-1)K)

Gustafson定律的加速比：S(n) ＝ 使用n个处理器的并行计算量 / 使用1个处理器的串行计算量

S(n) = K+(1-K)n  
有点冷是不是？  
  
通俗的讲，Amdahl 定律将工作量看作1，有n核也只能分担1-K的工作量；而Gustafson定律则将单核工作量看作1，有n核，就可以增加n(1-K)的工作量。  
  
这里没有考虑引进分布式带来的开销，比如网络和加锁。成本还是要仔细核算的，不是越分布越好。  
  
控制算法的复杂性在常数范围之内。

万兆以太网

手段篇 一致性哈希

要求分布式架构的发展说起。

**第一阶段**

考虑到单服务器不能承载，因此使用了分布式架构，最初的算法为 hash() mod n, hash()通常取用户ID，n为节点数。此方法容易实现且能够满足运营要求。缺点是当单点发生故障时，系统无法自动恢复。

![dc23x53c_78ggwcxmgn_b.png][]

**第二阶段**  
为了解决单点故障，使用 hash() mod (n/2), 这样任意一个用户都有2个服务器备选，可由client随机选取。由于不同服务器之间的用户需要彼此交互，所以所有的服务器需要确切的知道用户所在的位置。因此用户位置被保存到memcached中。  
  
当一台发生故障，client可以自动切换到对应backup，由于切换前另外1台没有用户的session，因此需要client自行重新登录。

![dc23x53c_80gzzxqdgk_b.png][]

这个阶段的设计存在以下问题  
负载不均衡，尤其是单台发生故障后剩下一台会压力过大。  
不能动态增删节点  
节点发生故障时需要client重新登录  
  
**第三阶段**  
打算去掉硬编码的hash() mod n 算法，改用一致性哈希(consistent hashing)分布  
假如采用Dynamo中的strategy 1  
我们把每台server分成v个虚拟节点，再把所有虚拟节点(n\*v)随机分配到一致性哈希的圆环上，这样所有的用户从自己圆环上的位置顺时针往下取到第一个vnode就是自己所属节点。当此节点存在故障时，再顺时针取下一个作为替代节点。

![dc23x53c_104d7fjkfck_b.png][]

**优点：发生单点故障时负载会均衡分散到其他所有节点，程序实现也比较优雅。**

亚马逊的现状

aw2.0公司的Alan Williamson撰写了一篇报道，主要是关于他在Amazon EC2上的体验的，他抱怨说，Amazon是公司唯一使用的云提供商，看起来它在开始时能够适应得很好，但是[有一个临界点][Link 76]：

> 在开始的日子里Amazon的表现非常棒。实例在几分钟内启动，几乎没有遇到任何问题，即便是他们的 [小实例（SMALL INSTANCE）][SMALL INSTANCE]也很健壮，足以支持适当使用的MySQL数据库。在20个月内，Amazon云系统一切运转良好，不需要任何的关心和抱怨。
> 
> ……
> 
> 然而，在最后的八个月左右，他们“盔甲”内的漏洞开始呈现出来了。第一个弱点前兆是，新加入的Amazon SMALL实例的性能出现了问题。根据我们的监控，在服务器场中新添加的机器，与原先的那些相比性能有所下降。开始我们认为这是自然出现的怪现象，只是碰 巧发生在“吵闹的邻居”（Noisy Neighbors）旁边。根据随机法则，一次快速的停机和重新启动经常就会让我们回到“安静的邻居”旁边，那样我们可以达到目的。
> 
> …… 然而，在最后的一两个月中，我们发现，甚至是这些“使用高级CPU的中等实例”也遭受了与小实例相同的命运，其中，新的实例不管处于什么位置，看起来似乎 都表现得一样。经过调查，我们还发现了一个新问题，它已经悄悄渗透到到Amazon的世界中，那就是内部网络延迟。  
>   
>

算法的选择 不同的哈希算法可以导致数据分布的不同位置，如果十分均匀，那么一次MapReduce就涉及节点较多，但热点均匀，方便管理。反之，热点不均，会大致机器效率发挥不完全。  
  
  
Quorum NRW

![dc23x53c_112ff7mw3fq_b.png][]

*  N: 复制的节点数量
 *  R: 成功读操作的最小节点数
 *  W: 成功写操作的最小节点数

只需W + R > N，就可以保证强一致性。 
 
第一个关键参数是 N，这个 N 指的是数据对象将被复制到 N 台主机上，N 在实例级别配置，协调器将负责把数据复制到 N-1 个节点上。N 的典型值设置为 3. 
 
复 制中的一致性，采用类似于 Quorum 系统的一致性协议实现。这个协议有两个关键值：R 与 W。R 代表一次成功的读取操作中最小参与节点数量，W 代表一次成功的写操作中最小参与节点数量。R + W>N ，则会产生类似 quorum 的效果。该模型中的读(写)延迟由最慢的 R(W)复制决定，为得到比较小的延迟，R 和 W 有的时候的和又设置比 N 小。 
 
如果N中的1台发生故障，Dynamo立即写入到preference list中下一台，确保永远可写入 
 
如 果W+R>N，那么分布式系统就会提供强一致性的保证，因为读取数据的节点和被同步写入的节点是有重叠的。在一个RDBMS的复制模型中 （Master/salve)，假如N=2,那么W=2,R=1此时是一种强一致性,但是这样造成的问题就是可用性的减低，因为要想写操作成功，必须要等 2个节点都完成以后才可以。 
 
在分布式系统中，一般都要有容错性，因此一般N都是大于3的，此时根据CAP理论，一致性，可用性和分区容 错 性最多只能满足两个，那么我们就需要在一致性和分区容错性之间做一平衡，如果要高的一致性，那么就配置N=W，R=1,这个时候可用性就会大大降低。如果 想要高的可用性，那么此时就需要放松一致性的要求，此时可以配置W=1，这样使得写操作延迟最低，同时通过异步的机制更新剩余的N-W个节点。 
 
当存储系统保证最终一致性时，存储系统的配置一般是W+R<=N,此时读取和写入操作是不重叠的，不一致性的窗口就依赖于存储系统的异步实现方式，不一致性的窗口大小也就等于从更新开始到所有的节点都异步更新完成之间的时间。 
 
(N,R,W) 的值典型设置为 (3, 2 ,2),兼顾性能与可用性。R 和 W 直接影响性能、扩展性、一致性，如果 W 设置 为 1，则一个实例中只要有一个节点可用，也不会影响写操作，如果 R 设置为 1 ，只要有一个节点可用，也不会影响读请求，R 和 W 值过小则影响一致性，过大也不好，这两个值要平衡。对于这套系统的典型的 SLA 要求 99.9% 的读写操作在 300ms 内完成。 
 
无 论是Read-your-writes-consistency,Session consistency,Monotonic read consistency,它们都通过黏贴（stickiness)客户端到执行分布式请求的服务器端来实现的，这种方式简单是简单，但是它使得负载均衡以 及分区容错变的更加难于管理，有时候也可以通过客户端来实现Read-your-writes-consistency和Monotonic read consistency,此时需要对写的操作的数据加版本号，这样客户端就可以遗弃版本号小于最近看到的版本号的数据。 
 
在系统开发过程 中，根据CAP理论，可用性和一致性在一个大型分区容错的系统中只能满足一个，因此为了高可用性，我们必须放低一致性的要求，但是不同的系统保证的一致性 还是有差别的，这就要求开发者要清楚自己用的系统提供什么样子的最终一致性的保证，一个非常流行的例子就是web应用系统，在大多数的web应用系统中都 有“用户可感知一致性”的概念，这也就是说最终一致性中的“一致性窗口"大小要小于用户下一次的请求，在下次读取操作来之前，数据可以在存储的各个节点之 间复制。还比如假如存储系统提供了 
 
read-your-write-consistency一致性，那么当一个用户写操作完成以后可以立马看到自己的更 新，但是其它的用户要过一会才可以看到更新。 
 
几种特殊情况： 
W = 1, R = N,对写操作要求高性能高可用。 
R = 1, W = N , 对读操作要求高性能高可用，比如类似cache之类业务。 
W = Q, R = Q where Q = N / 2 + 1 一般应用适用，读写性能之间取得平衡。如N=3,W=2,R=2 
 
 Vector clock

![dc23x53c_6638pgtkct_b.png][]

vector clock算法。可以把这个vector clock想象成每个节点都记录自己的版本信息，而一个数据，包含所有这些版本信息。来看一个例子：假设一个写请求，第一次被节点A处理了。节点A会增加 一个版本信息(A，1)。我们把这个时候的数据记做D1(A，1)。 然后另外一个对同样key(这一段讨论都是针对同样的key的)的请求还是被A处理了于是有D2(A，2)。  
  
这个时候，D2是可以覆盖 D1的，不会有冲突产生。现在我们假设D2传播到了所有节点(B和C)，B和C收到的数据不是从客户产生的，而是别人复制给他们的，所以他们不产生新的版 本信息，所以现在B和C都持有数据D2(A，2)。好，继续，又一个请求，被B处理了，生成数据D3(A，2;B，1)，因为这是一个新版本的数据，被B 处理，所以要增加B的版本信息。  
  
假设D3没有传播到C的时候又一个请求被C处理记做D4(A，2;C，1)。假设在这些版本没有传播开来 以前，有一个读取操作，我们要记得，我们的W=1 那么R=N=3，所以R会从所有三个节点上读，在这个例子中将读到三个版本。A上的D2(A，2);B上的D3(A，2;B，1);C上的D4(A，2; C，1)这个时候可以判断出，D2已经是旧版本，可以舍弃，但是D3和D4都是新版本，需要应用自己去合并。  
  
如果需要高可写性，就要处理 这种合并问题。好假设应用完成了冲入解决，这里就是合并D3和D4版本，然后重新做了写入，假设是B处理这个请求，于是有 D5(A，2;B，2;C，1);这个版本将可以覆盖掉D1-D4那四个版本。这个例子只举了一个客户的请求在被不同节点处理时候的情况， 而且每次写更新都是可接受的，大家可以自己更深入的演算一下几个并发客户的情况，以及用一个旧版本做更新的情况。  
  
上面问题看似好像可以通 过在三个节点里选择一个主节点来解决，所有的读取和写入都从主节点来进行。但是这样就违背了W=1这个约定，实际上还是退化到W=N的情况了。所以如果系 统不需要很大的弹性，W=N为所有应用都接受，那么系统的设计上可以得到很大的简化。Dynamo 为了给出充分的弹性而被设计成完全的对等集群(peer to peer)，网络中的任何一个节点都不是特殊的。  
  Virtual node

![dc23x53c_111dtk7hkdn_b.png][]  
虚拟节点，未完成

gossip

Gossip协议是一个Gossip思想的P2P实现。现代的分布式系统经常使用这个协议，他往往是唯一的手段。因为底层的结构非常复杂，而且Gossip也很有效。

Gossip协议也被戏称为病毒式传播，因为他的行为生物界的病毒很相似。

Gossip (State Transfer Model) 在状态转移到模式下，每个重复节点都保持的一个Vector clock和一个state version tree。每个节点的状态都是相同的(based on vector clock comparison),换句话说，state version tree包含有全部的冲突updates.  
  
At query time, the client will attach its vector clock and the replica will send back a subset of the state tree which precedes the client's vector clock (this will provide monotonic read consistency). The client will then advance its vector clock by merging all the versions. This means the client is responsible to resolve the conflict of all these versions because when the client sends the update later, its vector clock will precede all these versions.

![dc23x53c_93cjhqxb2q_b.png][]

At update, the client will send its vector clock and the replica will check whether the client state precedes any of its existing version, if so, it will throw away the client's update.

![dc23x53c_94g3p4wtgk_b.png][]

Replicas also gossip among each other in the background and try to merge their version tree together.

![dc23x53c_95gh7cjsgz_b.png][]

Gossip (Operation Transfer Model)   
In an operation transfer approach, the sequence of applying the operations is very important. At the minimum causal order need to be maintained. Because of the ordering issue, each replica has to defer executing the operation until all the preceding operations has been executed. Therefore replicas save the operation request to a log file and exchange the log among each other and consolidate these operation logs to figure out the right sequence to apply the operations to their local store in an appropriate order.  
  
"Causal order" means every replica will apply changes to the "causes" before apply changes to the "effect". "Total order" requires that every replica applies the operation in the same sequence.  
  
In this model, each replica keeps a list of vector clock, Vi is the vector clock the replica itself and Vj is the vector clock when replica i receive replica j's gossip message. There is also a V-state that represent the vector clock of the last updated state.  
  
When a query is submitted by the client, it will also send along its vector clock which reflect the client's view of the world. The replica will check if it has a view of the state that is later than the client's view.

![dc23x53c_96fdjnq2hg_b.png][]

When an update operation is received, the replica will buffer the update operation until it can be applied to the local state. Every submitted operation will be tag with 2 timestamp, V-client indicates the client's view when he is making the update request. V-@receive is the replica's view when it receives the submission.  
  
This update operation request will be sitting in the queue until the replica has received all the other updates that this one depends on. This condition is reflected in the vector clock Vi when it is larger than V-client

![dc23x53c_97ffnxbmf6_b.png][]

On the background, different replicas exchange their log for the queued updates and update each other's vector clock. After the log exchange, each replica will check whether certain operation can be applied (when all the dependent operation has been received) and apply them accordingly. Notice that it is possible that multiple operations are ready for applying at the same time, the replica will sort these operation in causal order (by using the Vector clock comparison) and apply them in the right order.

![dc23x53c_98htgqg5c3_b.png][]

The concurrent update problem at different replica can also happen. Which means there can be multiple valid sequences of operation. In order for different replica to apply concurrent update in the same order, we need a total ordering mechanism.  
  
One approach is whoever do the update first acquire a monotonic sequence number and late comers follow the sequence. On the other hand, if the operation itself is commutative, then the order to apply the operations doesn't matter  
  
After applying the update, the update operation cannot be immediately removed from the queue because the update may not be fully exchange to every replica yet. We continuously check the Vector clock of each replicas after log exchange and after we confirm than everyone has receive this update, then we'll remove it from the queue.  
  
 Merkle tree 有 数据存储成树状结构，每个节点的Hash是其所有子节点的Hash的Hash，叶子节点的Hash是其内容的Hash。这样一旦某个节点发生变化，其 Hash的变化会迅速传播到根节点。需要同步的系统只需要不断查询跟节点的hash，一旦有变化，顺着树状结构就能够在logN级别的时间找到发生变化的 内容，马上同步。  
Paxos [paxos][]是一种处理一致性的手段，可以理解为事务吧。  
其他的手段不要Google GFS使用的Chubby的Lock service。我不大喜欢那种重型的设计就不费笔墨了。

**背景**

当规模越来越大的时候。

一、Master/slave  
  
这个是多机房数据访问最常用的方案，一般的需求用此方案即可。因此大家也经常提到“premature optimization is the root of all evil”。  
优点：利用mysql replication即可实现，成熟稳定。  
缺点：写操作存在单点故障，master坏掉之后slave不能写。另外slave的延迟也是个困扰人的小问题。  
  
二、Multi-master  
  
Multi- master指一个系统存在多个master, 每个master都具有read-write能力，需根据时间戳或业务逻辑合并版本。比如分布式版本管理系统git可以理解成multi-master模 式。具备最终一致性。多版本数据修改可以借鉴Dynamo的vector clock等方法。  
  
优点：解决了单点故障。  
缺点：不易实现一致性，合并版本的逻辑复杂。

三、Two-phase commit(2PC)  
  
Two-phase commit是一个比较简单的一致性算法。由于一致性算法通常用神话(如Paxos的The Part-Time Parliament论文)来比喻容易理解，下面也举个类似神话的例子。  
  
某班要组织一个同学聚会，前提条件是所有参与者同意则活动举行，任意一人拒绝则活动取消。用2PC算法来执行过程如下  
  
Phase 1  
  
Prepare: 组织者(coordinator)打电话给所有参与者(participant) ，同时告知参与者列表。  
Proposal: 提出周六2pm-5pm举办活动。  
Vote: participant需vote结果给coordinator：accept or reject。  
Block: 如果accept, participant锁住周六2pm-5pm的时间，不再接受其他请求。  
Phase 2  
  
Commit: 如果所有参与者都同意，组织者coodinator通知所有参与者commit, 否则通知abort，participant解除锁定。  
Failure 典型失败情况分析  
  
Participant failure:  
任一参与者无响应，coordinator直接执行abort  
Coordinator failure:  
Takeover: 如果participant一段时间没收到cooridnator确认(commit/abort)，则认为coordinator不在了。这时候可自动成为Coordinator备份(watchdog)  
Query: watchdog根据phase 1接收的participant列表发起query  
Vote: 所有participant回复vote结果给watchdog, accept or reject  
Commit: 如果所有都同意，则commit, 否则abort。  
  
优点：实现简单。  
缺点：所有参与者需要阻塞(block)，throughput低；无容错机制，一节点失败则整个事务失败。  
  
四、Three-phase commit (3PC)  
  
Three-phase commit是一个2PC的改进版。2PC有一些很明显的缺点，比如在coordinator做出commit决策并开始发送commit之后，某个 participant突然crash，这时候没法abort transaction, 这时候集群内实际上就存在不一致的情况，crash恢复后的节点跟其他节点数据是不同的。因此3PC将2PC的commit的过程1分为2,分成 preCommit及commit, 如图。

![dc23x53c_76dxddz8dw_b.png][]

(图片来源：http://en.wikipedia.org/wiki/File:Three-phase\_commit\_diagram.png)  
  
从图来看，cohorts(participant)收到preCommit之后，如果没收到commit, 默认也执行commit, 即图上的timeout cause commit。  
  
如果coodinator发送了一半preCommit crash, watchdog接管之后通过query, 如果有任一节点收到commit, 或者全部节点收到preCommit, 则可继续commit, 否则abort。  
  
优点：允许发生单点故障后继续达成一致。  
缺点：网络分离问题，比如preCommit消息发送后突然两个机房断开，这时候coodinator所在机房会abort, 另外剩余replicas机房会commit。

Google Chubby的作者Mike Burrows说过， “there is only one consensus protocol, and that’s Paxos” – all other approaches are just broken versions of Paxos. 意即“世上只有一种一致性算法，那就是Paxos”，所有其他一致性算法都是Paxos算法的不完整版。相比2PC/3PC, Paxos算法的改进  
P1a. 每次Paxos实例执行都分配一个编号，编号需要递增，每个replica不接受比当前最大编号小的提案  
P2. 一旦一个 value v 被replica通过，那么之后任何再批准的 value 必须是 v，即没有拜占庭将军(Byzantine)问题。拿上面请客的比喻来说，就是一个参与者一旦accept周六2pm-5pm的proposal, 就不能改变主意。以后不管谁来问都是accept这个value。  
一个proposal只需要多数派同意即可通过。因此比2PC/3PC更灵活，在一个2f+1个节点的集群中，允许有f个节点不可用。  
  
另外Paxos还有很多约束的细节，特别是Google的chubby从工程实现的角度将Paxos的细节补充得非常完整。比如如何避免Byzantine问题，由于节点的持久存储可能会发生故障，Byzantine问题会导致Paxos算法P2约束失效。  
  
以上几种方式原理比较如下

![dc23x53c_105gpqm25hj_b.png][]

DHT  
[Distributed hash table][]

![dc23x53c_115dwv72ngt_b.png][]

Map Reduce Execution Map Reduce已经烂大街了，不过还是要提一下。  
参见：http://zh.wikipedia.org/wiki/MapReduce

![dc23x53c_99d5m2gsfq_b.png][]

Handling Deletes 但我们执行删除操作的时候必须非常谨慎，以防丢失掉相应的版本信息。  
  
通常我们给一个Object标注上"已删除"的标签。在足够的时间之后，我们在确保版本一致的情况下可以将它彻底删除。回收他的空间。  
  
  
存储实现 One strategy is to use make the storage implementation pluggable. e.g. A local MySQL DB, Berkeley DB, Filesystem or even a in memory Hashtable can be used as a storage mechanism.  
  
Another strategy is to implement the storage in a highly scalable way. Here are some techniques that I learn from [CouchDB][CouchDB 1] and Google BigTable.  
  
CouchDB has a MVCC model that uses a copy-on-modified approach. Any update will cause a private copy being made which in turn cause the index also need to be modified and causing the a private copy of the index as well, all the way up to the root pointer.

![dc23x53c_100c7bszndf_b.png][]

Notice that the update happens in an append-only mode where the modified data is appended to the file and the old data becomes garbage. Periodic garbage collection is done to compact the data. Here is how the model is implemented in memory and disks

![dc23x53c_101d6ncwfc4_b.png][]

In Google BigTable model, the data is broken down into multiple generations and the memory is use to hold the newest generation. Any query will search the mem data as well as all the data sets on disks and merge all the return results. Fast detection of whether a generation contains a key can be done by checking a bloom filter.

![dc23x53c_102hcphxkdh_b.png][]

When update happens, both the mem data and the commit log will be written so that if the  
  
节点变化  
Notice that virtual nodes can join and leave the network at any time without impacting the operation of the ring.  
  
***When a new node joins the network***

1.  新加入的节点宣告自己的存在(广播或者其他手段)
2.  他的邻居节点要调整Key的分配和复制关系。这个操作通常是同步的
3.  这个新加入的节点异步的拷贝数据
4.  这个节点变化的操作被发布到其他节点

![dc23x53c_113cw38kwg3_b.png][]

Notice that other nodes may not have their membership view updated yet so they may still forward the request to the old nodes. But since these old nodes (which is the neighbor of the new joined node) has been updated (in step 2), so they will forward the request to the new joined node.  
  
On the other hand, the new joined node may still in the process of downloading the data and not ready to serve yet. We use the vector clock (described below) to determine whether the new joined node is ready to serve the request and if not, the client can contact another replica.  
  
***When an existing node leaves the network*** (e.g. crash)

1.  The crashed node no longer respond to gossip message so its neighbors knows about it.崩溃的节点不再发送Gossip Message的回应，所以他的邻居都知道他是了  
    
2.  The neighbor will update the membership changes and copy data asynchronously，他的邻居处理后事，将他的活分给别人干，同时调整节点关系。

![dc23x53c_114gjbfqhcp_b.png][]

We haven't talked about how the virtual nodes is mapped into the physical nodes. Many schemes are possible with the main goal that Virtual Node replicas should not be sitting on the same physical node. One simple scheme is to assigned Virtual node to Physical node in a random manner but check to make sure that a physical node doesn't contain replicas of the same key ranges.  
  
Notice that since machine crashes happen at the physical node level, which has many virtual nodes runs on it. So when a single Physical node crashes, the workload (of its multiple virtual node) is scattered across many physical machines. Therefore the increased workload due to physical node crashes is evenly balanced.  
列存 描述

数据库以行、列的二维表的形式存储数据，但是却以一维字符串的方式存储，例如以下的一个表：

<table> 
 <tbody> 
 <tr> 
 <th>EmpId </th> 
 <th>Lastname </th> 
 <th>Firstname </th> 
 <th>Salary </th> 
 </tr> 
 <tr> 
 <td>1 </td> 
 <td>Smith </td> 
 <td>Joe </td> 
 <td>40000 </td> 
 </tr> 
 <tr> 
 <td>2 </td> 
 <td>Jones </td> 
 <td>Mary </td> 
 <td>50000 </td> 
 </tr> 
 <tr> 
 <td>3 </td> 
 <td>Johnson </td> 
 <td>Cathy </td> 
 <td>44000 </td> 
 </tr> 
 </tbody> 
</table>

这个简单的表包括员工代码(EmpId), 姓名字段(Lastname and Firstname)及工资(Salary).

这个表存储在电脑的内存(RAM)和存储(硬盘)中。虽然内存和硬盘在机制上不同，电脑的操作系统是以同样的方式存储的。数据库必须把这个二维表存储在一系列一维的“字节”中，又操作系统写到内存或硬盘中。

行式数据库把一行中的数据值串在一起存储起来，然后再存储下一行的数据，以此类推。 1,Smith,Joe,40000;2,Jones,Mary,50000;3,Johnson,Cathy,44000;

列式数据库把一列中的数据值串在一起存储起来，然后再存储下一列的数据，以此类推。 1,2,3;Smith,Jones,Johnson;Joe,Mary,Cathy;40000,50000,44000;

![dc2sjkhq_1d2t9rdfk_b.png][]

特点

*  良好的压缩比。由于大多数数据库设计都有冗余，如此一来，压缩比非常高，把40多M的数据导入infobright，没想到数据文件只有1M多
 *  列上的计算非常的快。
 *  方便MapReduce和Key-value模型的融合
 *  读取整行的数据较慢，但部分数据较快

[简单分析含源码][Link 77]

软件篇 亚数据库 我发明的新概念，就是称不上数据库但有一些数据库的特征。可以指缓存。  
MemCached Memcached是danga.com（运营LiveJournal的技术团队）开发的一套分布式内存对象缓存系统，用于在动态系统中减少数据库 负载，提升性能。  
特点

*  协议简单
 *  基于libevent的事件处理
 *  内置内存存储方式
 *  memcached不互相通信的分布式

![dc23x53c_124d7q729fh_b.png][]

Memcached处理的原子是每一个（key，value）对（以下简称kv对），key会通过一个hash算法转化成hash-key，便于查找、对比以及做到尽可能的散列。同时，memcached用的是一个二级散列，通过一张大hash表来维护。

Memcached有两个核心组件组成：服务端（ms）和客户端（mc），在一个memcached的查询中，mc先通过计算key的 hash值来 确定kv对所处在的ms位置。当ms确定后，客户端就会发送一个查询请求给对应的ms，让它来查找确切的数据。因为这之间没有交互以及多播协议，所以 memcached交互带给网络的影响是最小化的。

![dc23x53c_125dfz3gt3c_b.jpg][]

内存分配

默认情况下，ms是用一个内置的叫“块分配器”的组件来分配内存的。舍弃c++标准的malloc/free的内存分配，而采用块分配器的主要目的 是为了避免内存碎片，否则操作系统要花费更多时间来查找这些逻辑上连续的内存块（实际上是断开的）。用了块分配器，ms会轮流的对内存进行大块的分配，并 不断重用。当然由于块的大小各不相同，当数据大小和块大小不太相符的情况下，还是有可能导致内存的浪费。

同时，ms对key和data都有相应的限制，key的长度不能超过250字节，data也不能超过块大小的限制 --- 1MB。  
因 为mc所使用的hash算法，并不会考虑到每个ms的内存大小。理论上mc会分配概率上等量的kv对给每个ms，这样如果每个ms的内存都不太一样，那 可能会导致内存使用率的降低。所以一种替代的解决方案是，根据每个ms的内存大小，找出他们的最大公约数，然后在每个ms上开n个容量=最大公约数的 instance，这样就等于拥有了多个容量大小一样的子ms，从而提供整体的内存使用率。

缓存策略

当ms的hash表满了之后，新的插入数据会替代老的数据，更新的策略是LRU（最近最少使用），以及每个kv对的有效时限。Kv对存储有效时限是在mc端由app设置并作为参数传给ms的。

同时ms采用是偷懒替代法，ms不会开额外的进程来实时监测过时的kv对并删除，而是当且仅当，新来一个插入的数据，而此时又没有多余的空间放了，才会进行清除动作。

缓存数据库查询

现在memcached最流行的一种使用方式是缓存数据库查询，下面举一个简单例子说明：

App需要得到userid=xxx的用户信息，对应的查询语句类似：

“SELECT \* FROM users WHERE userid = xxx”

App先去问cache，有没有“user:userid”（key定义可预先定义约束好）的数据，如果有，返回数据；如果没有，App会从数据库中读取数据，并调用cache的add函数，把数据加入cache中。

当取的数据需要更新，app会调用cache的update函数，来保持数据库与cache的数据同步。

从上面的例子我们也可以发现，一旦数据库的数据发现变化，我们一定要及时更新cache中的数据，来保证app读到的是同步的正确数据。当 然我们可 以通过定时器方式记录下cache中数据的失效时间，时间一过就会激发事件对cache进行更新，但这之间总会有时间上的延迟，导致app可能从 cache读到脏数据，这也被称为狗洞问题。（以后我会专门描述研究这个问题）

**数据冗余与故障预防**

从设计角度上，memcached是没有数据冗余环节的，它本身就是一个大规模的高性能cache层，加入数据冗余所能带来的只有设计的复杂性和提高系统的开支。

当一个ms上丢失了数据之后，app还是可以从数据库中取得数据。不过更谨慎的做法是在某些ms不能正常工作时，提供额外的ms来支持cache，这样就不会因为app从cache中取不到数据而一下子给数据库带来过大的负载。

同时为了减少某台ms故障所带来的影响，可以使用“热备份”方案，就是用一台新的ms来取代有问题的ms，当然新的ms还是要用原来ms的IP地址，大不了数据重新装载一遍。

另外一种方式，就是提高你ms的节点数，然后mc会实时侦查每个节点的状态，如果发现某个节点长时间没有响应，就会从mc的可用 server列表里 删除，并对server节点进行重新hash定位。当然这样也会造成的问题是，原本key存储在B上，变成存储在C上了。所以此方案本身也有其弱点，最好 能和“热备份”方案结合使用，就可以使故障造成的影响最小化。

Memcached客户端（mc）

Memcached客户端有各种语言的版本供大家使用，包括java，c，php，.net等等，具体可参见[memcached api page][] \[2\]。  
大家可以根据自己项目的需要，选择合适的客户端来集成。

缓存式的Web应用程序架构

有了缓存的支持，我们可以在传统的app层和db层之间加入cache层，每个app服务器都可以绑定一个mc，每次数据的读取都可以从ms中取 得，如果 没有，再从db层读取。而当数据要进行更新时，除了要发送update的sql给db层，同时也要将更新的数据发给mc，让mc去更新ms中的数据。

性能测试 Memcached 写速度  
平均速度: 16222 次/秒  
最大速度 18799 次/秒  
  
Memcached 读速度  
平均速度: 20971 次/秒  
最大速度 22497 次/秒  
  
Memcachedb 写速度  
平均速度: 8958 次/秒  
最大速度 10480 次/秒  
  
Memcachedb 读速度  
平均速度: 6871 次/秒  
最大速度 12542 次/秒

[源代码级别的分析][Link 78]  
[非常好的剖析文章][Link 79]  
  
 dbcached  
  
● dbcached 是一款基于 Memcached 和 NMDB 的分布式 key-value 数据库内存缓存系统。  
● dbcached = Memcached + 持久化存储管理器 + NMDB 客户端接口  
● Memcached 是一款高性能的，分布式的内存对象缓存系统，用于在动态应用中减少数据库负载，提升访问速度。  
● NMDB 是一款多协议网络数据库(dbm类)管理器，它由内存缓存和磁盘存储两部分构成，使用 QDBM 或 Berkeley DB 作为后端数据库。  
● QDBM 是一个管理数据库的例程库，它参照 GDBM 为了下述三点而被开发：更高的处理速度，更小的数据库文件大小，和更简单的API。QDBM 读写速度比 Berkeley DB 要快，详细速度比较见《 [Report of Benchmark Test][]》。

![dc23x53c_127vqxjp7z7_b.gif][]

Memcached 和 dbcached 在功能上一样吗? ● 兼容：Memcached 能做的，dbcached 都能做。除此之外，dbcached 还将“Memcached、持久化存储管理器、NMDB 客户端接口”在一个程序中结合起来，对任何原有 Memcached 客户端来讲，dbcached 仍旧是个 Memcached 内存对象缓存系统，但是，它的数据可以持久存储到本机或其它服务器上的 QDBM 或 Berkeley DB 数据库中。  
● 性能：前端 dbcached 的并发处理能力跟 Memcached 相同；后端 NMDB 跟 Memcached 一样，采用了libevent 进行网络IO处理，拥有自己的内存缓存机制，性能不相上下。  
● 写入：当“dbcached 的 Memcached 部分”接收到一个 set(add/replace/...) 请求并储存 key-value 数据到内存中后，“dbcached 持久化存储管理器”能够将 key-value 数据通过“NMDB 客户端接口”保存到 QDBM 或 Berkeley DB 数据库中。  
● 速度：如果加上“-z”参数，采用 UDP 协议“只发送不接收”模式将 set(add/replace/...) 命令写入的数据传递给 NMDB 服务器端，对 Memcache 客户端写速度的影响几乎可以忽略不计。在千兆网卡、同一交换机下服务器之间的 UDP 传输丢包率微乎其微。在命中的情况下，读取数据的速度跟普通的 Memcached 无差别，速度一样快。  
● 读取：当“dbcached 的 Memcached 部分”接收到一个 get(incr/decr/...) 请求后，如果“dbcached 的 Memcached 部分”查询自身的内存缓存未命中，则“dbcached 持久化存储管理器”会通过“NMDB 客户端接口”从 QDBM 或 Berkeley DB 数据库中取出数据，返回给用户，然后储存到 Memcached 内存中。如果有用户再次请求这个 key，则会直接从 Memcached 内存中返回 Value 值。  
● 持久：使用 dbcached，不用担心 Memcached 服务器死机、重启而导致数据丢失。  
● 变更：使用 dbcached，即使因为故障转移，添加、减少 Memcached 服务器节点而破坏了“key 信息”与对应“Memcached 服务器”的映射关系也不怕。  
● 分布：dbcached 和 NMDB 既可以安装在同一台服务器上，也可以安装在不同的服务器上，多台 dbcached 服务器可以对应一台 NMDB 服务器。  
● 特长：dbcached 对于“读”大于“写”的应用尤其适用。  
● 其他：《 [dbcached 的故障转移支持、设计方向以及与 Memcachedb 的不同之处][dbcached _ Memcachedb]》  
列存系列 Hadoop之Hbase  [**Hadoop / HBase**][Hadoop _ HBase]: API: **Java / any writer**, Protocol: **any write call**, Query Method: **MapReduce Java / any exec**, Replication: **HDFS Replication**, Written in: **Java**, Concurrency: ?, Misc: **Links**: 3 Books \[ [1][], [2][], [3][]\]   
  耶鲁大学之HadoopDB

![dc23x53c_118gqxr8cgq_b.jpg][]

GreenPlum

![dc23x53c_119ds5xg9gp_b.jpg][]

FaceBook之Cassandra  
[**Cassandra**][Cassandra 1]: API: **many** **Thrift** [»][Link 80] **languages**, Protocol: ?, Query Method: **MapReduce**, Replicaton: , Written in: **Java**, Concurrency: **eventually consistent** , Misc: like "Big-Table on Amazon Dynamo alike",  initiated by Facebook, Slides [»][Link 81] , Clients [»][Link 82]  
  
Cassandra是facebook开源出来的一个版本，可以认为是BigTable的一个开源版本，目前twitter和digg.com在使用。   
  
Cassandra特点

*  灵活的schema，不需要象数据库一样预先设计schema，增加或者删除字段非常方便（on the fly）。
 *  支持range查询：可以对Key进行范围查询。
 *  高可用，可扩展：单点故障不影响集群服务，可线性扩展。

Cassandra 的主要特点就是它不是一个数据库，而是由一堆数据库节点共同构成的一个分布式网络服务，对Cassandra的一个写操作，会 被复制到其他节点上去，对Cassandra的读操作，也会被路由到某个节点上面去读取。对于一个Cassandra群集来说，扩展性能是比较简单的事 情，只管在群集里面添加节点就可以了。我看到有文章说Facebook的Cassandra群集有超过100台服务器构成的数据库群集。 
 
Cassandra也支持比较丰富的数据结构和功能强大的查询语言，和MongoDB比较类似，查询功能比MongoDB稍弱一些，twitter的平台架构部门领导Evan Weaver写了一篇文章介绍Cassandra： [http://blog.evanweaver.com/articles/2009/07/06/up-and-running-with-cassandra/][http_blog.evanweaver.com_articles_2009_07_06_up-and-running-with-cassandra]，有非常详细的介绍。 
 
Cassandra 以单个节点来衡量，其节点的并发读写性能不是特别好，有文章说评测下来Cassandra每秒大约不到1万次读写请求，我也看 到一些对这个问题进行质疑的评论，但是评价Cassandra单个节点的性能是没有意义的，真实的分布式数据库访问系统必然是n多个节点构成的系统，其并 发性能取决于整个系统的节点数量，路由效率，而不仅仅是单节点的并发负载能力。 
Keyspace Cassandra中的最大组织单元，里面包含了一系列Column family，Keyspace一般是应用程序的名称。你可以把它理解为Oracle里面的一个schema，包含了一系列的对象。 
Column family（CF） CF是某个特定Key的数据集合，每个CF物理上被存放在单独的文件中。从概念上看，CF有点象数据库中的Table. 
Key 数据必须通过Key来访问，Cassandra允许范围查询，例如：start => '10050', :finish => '10070' 
Column 在Cassandra中字段是最小的数据单元，column和value构成一个对，比如：name:“jacky”，column是name，value是jacky，每个column:value后都有一个时间戳：timestamp。 
 
和 数据库不同的是，Cassandra的一行中可以有任意多个column，而且每行的column可以是不同的。从数据库设计的角度，你可以理解 为表上有两个字段，第一个是Key，第二个是长文本类型，用来存放很多的column。这也是为什么说Cassandra具备非常灵活schema的原 因。 
Super column Super column是一种特殊的column，里面可以存放任意多个普通的column。而且一个CF中同样可以有任意多个Super column，一个CF只能定义使用Column或者Super column，不能混用。下面是Super column的一个例子，homeAddress这个Super column有三个字段：分别是street，city和zip： homeAddress: \{street: "binjiang road",city: "hangzhou",zip: "310052",\} 
 
Sorting 不 同于数据库可以通过Order by定义排序规则，Cassandra取出的数据顺序是总是一定的，数据保存时已经按照定义的规则存放，所以取出来的顺序已经确定了，这是一个巨大的性能 优势。有意思的是，Cassandra按照column name而不是column value来进行排序，它 定义了以下几种选项：BytesType, UTF8Type, LexicalUUIDType, TimeUUIDType, AsciiType, 和LongType，用来定义如何按照column name来排序。实际上，就是把column name识别成为不同的类型，以此来达到灵活排序的目的。UTF8Type是把column name转换为UTF8编码来进行排序，LongType转换成为64位long型，TimeUUIDType是按照基于时间的UUID来排序。例如： 
 
Column name按照LongType排序： 
\{name: 3, value: "jacky"\}, 
\{name: 123, value: "hellodba"\}, 
\{name: 976, value: "Cassandra"\}, 
\{name: 832416, value: "bigtable"\} 
 
Column name按照UTF8Type排序： 
\{name: 123, value: "hellodba"\}, 
\{name: 3, value: "jacky"\}, 
\{name: 832416, value: "bigtable"\} 
\{name: 976, value: "Cassandra"\} 
 
下面我们看twitter的Schema： 
<Keyspace Name="Twitter"> 
<ColumnFamily CompareWith="UTF8Type" Name="Statuses" /> 
<ColumnFamily CompareWith="UTF8Type" Name="StatusAudits" /> 
<ColumnFamily CompareWith="UTF8Type" Name="StatusRelationships" 
CompareSubcolumnsWith="TimeUUIDType" ColumnType="Super" /> 
<ColumnFamily CompareWith="UTF8Type" Name="Users" /> 
<ColumnFamily CompareWith="UTF8Type" Name="UserRelationships" 
CompareSubcolumnsWith="TimeUUIDType" ColumnType="Super" /> 
</Keyspace> 
 
我 们看到一个叫Twitter的keyspace，包含若干个CF，其中StatusRelationships和 UserRelationships被定义为包含Super column的CF，CompareWith定义了column的排序规则，CompareSubcolumnsWith定义了subcolumn的排序 规则，这里使用了两种：TimeUUIDType和UTF8Type。我们没有看到任何有关column的定义，这意味着column是可以灵活变更的。 
 
为了方便大家理解，我会尝试着用关系型数据库的建模方法去描述Twitter的Schema，但千万不要误认为这就是Cassandra的数据模型，对于Cassandra来说，每一行的colunn都可以是任意的，而不是象数据库一样需要在建表时就创建好。

![dc23x53c_122cqsw5xdj_b.png][]

Users CF记录用户的信息，Statuses CF记录tweets的内容，StatusRelationships CF记录用户看到的tweets，UserRelationships CF记录用户看到的followers。我们注意到排序方式是TimeUUIDType，这个类型是按照时间进行排序的UUID字段，column name是用UUID函数产生（这个函数返回了一个UUID，这个UUID反映了当前的时间，可以根据这个UUID来排序，有点类似于timestamp 一样），所以得到结果是按照时间来排序的。使用过twitter的人都知道，你总是可以看到自己最新的tweets或者最新的friends.  
  
存储 Cassandra是基于列存储的(Bigtable也是一样)，这个和基于列的数据库是一个道理。

![dc23x53c_123gb8mg9gk_b.png][]

API 下面是数据库，Bigtable和Cassandra API的对比： Relational SELECT \`column\` FROM \`database\`.\`table\` WHERE \`id\` = key;  
BigTable table.get(key, "column\_family:column")  
Cassandra: standard model keyspace.get("column\_family", key, "column")  
Cassandra: super column model keyspace.get("column\_family", key, "super\_column", "column")  
  
[我][Link 83]对Cassandra数据模型的理解：  
  
1.column name存放真正的值，而value是空。因为Cassandra是按照column name排序，而且是按列存储的，所以往往利用column name存放真正的值，而value部分则是空。例如：“jacky”:“null”，“fenng”:”null”  
  
2.Super column可以看作是一个索引，有点象关系型数据库中的外键，利用super column可以实现快速定位，因为它可以返回一堆column，而且是排好序的。  
  
3.排序在定义时就确定了，取出的数据肯定是按照确定的顺序排列的，这是一个巨大的性能优势。  
  
4. 非常灵活的schema，column可以灵活定义。实际上，colume name在很多情况下，就是value（是不是有点绕）。  
  
5.每个column后面的timestamp，我并没有找到明确的说明，我猜测可能是数据多版本，或者是底层清理数据时需要的信息。  
  
最后说说架构，我认为架构的核心就是有所取舍，不管是CAP还是BASE，讲的都是这个原则。架构之美在于没有任何一种架构可以完美的解决各种问题，数据库和NoSQL都有其应用场景，我们要做的就是为自己找到合适的架构。   
  
**Hypertable**  
  
 [**Hypertable**][Hypertable] :  (can you help?) Open-Source Google BigTable alike.  
  
它是搜索引擎公司Zvents根据Google的9位研究人员在2006年发表的一篇论文《 [Bigtable：结构化数据的分布存储系统][Bigtable]》 开发的一款开源分布式数据储存系统。Hypertable是按照1000节点比例设计，以 C++撰写，可架在 HDFS 和 KFS 上。尽管还在初期阶段，但已有不错的效能：写入 28M 列的资料，各节点写入速率可达7MB/s，读取速率可达 1M cells/s。Hypertable目前一直没有太多高负载和大存储的应用实例，但是最近，Hypertable项目得到了 [百度][Link 84]的赞助支持，相信其会有更好的发展。   
  
  Google之BigTable 研究Google的产品总是感激Google给了自己那么多方便，真心喜欢之。

![dc23x53c_133fmsdjkfj_b.jpg][]

[Google AppEngine Datastore][] 是在BigTable之上建造出来的，是Google的内部存储系统，用于处理结构化数据。AppEngine Datastore其自身及其内部都不是直接访问BigTable的实现机制，可被视为BigTable之上的一个简单接口。  
  
AppEngine Datastore所支持的项目的数据类型要比SimpleDB丰富得多，也包括了包含在一个项目内的数据集合的列表型。  
  
如果你打算在Google AppEngine之内建造应用的话，几乎可以肯定要用到这个数据存储。然而，不像SimpleDB，使用谷歌网络服务平台之外的应用，你并不能并发地与AppEngine Datastore进行接口 (或通过BigTable)。  
Yahoo之PNUTS

Yahoo!的PNUTS是一个分布式的数据存储平台，它是Yahoo!云计算平台重要的一部分。它的上层产品通常也称为Sherpa。按照官方的 描述，”PNUTS, a massively parallel and geographically distributed database system for Yahoo!’s web applications.” PNUTS显然就深谙CAP之道，考虑到大部分web应用对一致性并不要求非常严格，在设计上放弃了对强一致性的追求。代替的是追求更高的 availability，容错，更快速的响应调用请求等。

特点

*  地理分布式，分布在全球多个数据中心。由于大部分Web应用都对响应时间要求高，因此最好服务器部署在离用户最近的本地机房。
 *  可扩展，记录数可支持从几万条到几亿条。数据容量增加不会影响性能。
 *  schema-free，即非固定表结构。实际使用key/value存储的，一条记录的多个字段实际是用json方式合并存在value中。因此delete和update必须指定primary key。但也支持批量查询。
 *  高可用性及容错。从单个存储节点到整个数据中心不可用都不会影响前端Web访问。
 *  适合存相对小型的记录，不适合存储大文件，流媒体等。
 *  弱一致性保证。

PNUTS实现 Record-level mastering 记录级别主节点  
每 一条记录都有一个主记录。比如一个印度的用户保存的记录master在印度机房，通常修改都会调用印度。其他地方如美国用户看这个用户的资料调用 的是美国数据中心的资料，有可能取到的是旧版的数据。非master机房也可对记录进行修改，但需要master来统一管理。每行数据都有自己的版本控 制，如下图所示。  
  
![EXTERN_0000.jpg][]  
PNUTS的结构 ![EXTERN_0001.jpg][]  
每个数据中心的PNUTS结构由四部分构成  
Storage Units (SU) 存储单元  
物 理的存储服务器，每个存储服务器上面含有多个tablets，tablets是PNUTS上的基本存储单元。一 个tablets是一个yahoo内部格式的hash table的文件(hash table)或是一个MySQL innodb表(ordered table)。一个Tablet通常为几百M。一个SU上通常会存在几百个tablets。  
**Routers**   
每个tablets在哪个SU上是通过查询router获得。一个数据中心内router通常可由两台双机备份的单元提供。  
  
**Tablet Controller**   
router的位置只是个内存快照，实际的位置由Tablet Controller单元决定。  
**Message Broker**  
  
与远程数据的同步是由YMB提供，它是一个pub/sub的异步消息订阅系统。  
Tablets寻址与切分 存储分hash和ordered data store。  
![EXTERN_0002.png][]  
以 hash为例介绍，先对所有的tablets按hash值分片，比如1-10,000属于tablets 1, 10,000到20,000属于tablets 2，依此类推分配完所有的hash范围。一个大型的IDC通常会存在100万以下的tablets, 1,000台左右的SU。tablets属于哪个SU由routers全部加载到内存里面，因此router访问速度极快，通常不会成为瓶颈。按照官方的 说法，系统的瓶颈只存在磁盘文件hash file访问上。  
当某个SU访问量过大，则可将SU中部分tablets移到相对空闲的SU，并修改tablet controller的偏移记录。router定位tablet失效之后会自动通过tablet controller重新加载到内存。所以切分也相对容易实现。  
Tim 也曾经用MySQL实现过类似大规模存储的系统，当时的做法是把每条记录的key属于哪个SU的信息保存到 一个字典里面，好处是切分可以获得更大的灵活性，可以动态增加新的tablets,而不需要切分旧的tablets。但缺点就是字典没法像router这 样，可以高效的全部加载到内存中。所以比较而言，在实际的应用中，按段分片会更简单，且已经足够使用。

**Write调用示意图**

![dc23x53c_131c6c5wjzd_b.jpg][]

PNUTS感悟  
2006年Greg Linden就说 [I want a big, virtual database][I want a big_ virtual database]  
  
What I want is a robust, high performance virtual relational database that runs transparently over a cluster, nodes dropping in an out of service at will, read-write replication and data migration all done automatically.  
  
I want to be able to install a database on a server cloud and use it like it was all running on one machine.  
  
详细资料：  
http://timyang.net/architecture/yahoo-pnuts/  
  
 **微软之SQL数据服务** [SQL数据服务][SQL 1] 是微软 [Azure][] 网 络服务平台的一部分。该SDS服务也是处于测试阶段，因此也是免费的，但对数据库大小有限制。 SQL数据服务其自身实际上是一项处在许多SQL服务器之上的应用，这些SQL服务器组成了SDS平台底层的数据存储。你不需要访问到它们，虽然底层的数 据库可能是关系式的；SDS是一个键/值型仓储，正如我们迄今所讨论过的其它平台一样。  
  
微软看起来不同于前三个供应商，因为虽然键/值存储对于可扩性

阅读(335) | 评论(0) | 转发(0) |

上一篇：\[转\]定向抓取漫谈

下一篇：\[转\]高负载并发网站架构分析

相关热门文章

*  IP Sec VPN与NAT破镜重圆
 *  网站导航
 *  UT2.0正式版下载
 *  tomcat6.0配置(含配置视频下载...
 *  Gomez中国网站用户体验排行榜(...

*  [LNMP 老是会出现502？][LNMP _502]
 *  [suse 运用一个shell获取本机和...][suse _shell_...]
 *  [虚拟机 unix 配置ip ][unix _ip]
 *  [hp-un 主机新系统读不到磁盘阵...][hp-un _...]
 *  [mysql出现问题：Starting MySQ...][mysql_Starting MySQ...]

给主人留下些什么吧！~~

评论热议

[Link 1]: http://sebug.net/paper/databases/nosql/Nosql.html#_3648342117667198_092538481578
[Link 2]: http://sebug.net/paper/databases/nosql/Nosql.html#_6151155580979304_025368058842
[CAP]: http://sebug.net/paper/databases/nosql/Nosql.html#CAP_7730791447684169_231516710
[Link 3]: http://sebug.net/paper/databases/nosql/Nosql.html#_8927957601845264_891876230947
[Link 4]: http://sebug.net/paper/databases/nosql/Nosql.html#_688371617347002_0840630698949
[BASE]: http://sebug.net/paper/databases/nosql/Nosql.html#BASE_9958890723064542_78222997_869969945038222
[Link 5]: http://sebug.net/paper/databases/nosql/Nosql.html#_40717189376329843_06651605852
[I_O]: http://sebug.net/paper/databases/nosql/Nosql.html#I_O_9886723485627446_373115905_5228612841633498
[Link 6]: http://sebug.net/paper/databases/nosql/Nosql.html#_8314717379700977_930601348298
[RAM]: http://sebug.net/paper/databases/nosql/Nosql.html#RAM_147097721381792_7902793153_006425076106569838
[Amdahl_Gustafson]: http://sebug.net/paper/databases/nosql/Nosql.html#Amdahl_Gustafson_9052423372139
[Link 7]: http://sebug.net/paper/databases/nosql/Nosql.html#_5841810574932209
[Link 8]: http://sebug.net/paper/databases/nosql/Nosql.html#_7991344137117267_675089238211_7007085816130685
[Link 9]: http://sebug.net/paper/databases/nosql/Nosql.html#_777160631492734_5802160603925
[Link 10]: http://sebug.net/paper/databases/nosql/Nosql.html#_735276508313792_2270315258144_9783657311654288
[Link 11]: http://sebug.net/paper/databases/nosql/Nosql.html#_6454406003627595_776185765138
[Quorum NRW]: http://sebug.net/paper/databases/nosql/Nosql.html#NRW_012323816604251636_2127662_10272764961707637
[Vector clock]: http://sebug.net/paper/databases/nosql/Nosql.html#Vector_clock_41690548602491617_5257623065741377
[Virtual node]: http://sebug.net/paper/databases/nosql/Nosql.html#Virtual_node_6496471269056201_
[gossip]: http://sebug.net/paper/databases/nosql/Nosql.html#gossip_34187653195112944_16061_08507828080528557
[Gossip _State Transfer Model]: http://sebug.net/paper/databases/nosql/Nosql.html#Gossip_State_Transfer_Model_14_5181318348909955
[Gossip _Operation Transfer Model]: http://sebug.net/paper/databases/nosql/Nosql.html#Gossip_Operation_Transfer_Mode_688725990810297
[Merkle tree]: http://sebug.net/paper/databases/nosql/Nosql.html#Merkle_tree_26526400726288557__5335256577035526
[Paxos]: http://sebug.net/paper/databases/nosql/Nosql.html#Paxos_9032379315516326_7248578
[Link 12]: http://sebug.net/paper/databases/nosql/Nosql.html#_08464202471077442_91161458194
[DHT]: http://sebug.net/paper/databases/nosql/Nosql.html#_DHT_1358780225498577_43241378_3858325568533115
[Map Reduce Execution]: http://sebug.net/paper/databases/nosql/Nosql.html#Map_Reduce_Execution_846077151
[Handling Deletes]: http://sebug.net/paper/databases/nosql/Nosql.html#Handling_Deletes_5351970902357
[Link 13]: http://sebug.net/paper/databases/nosql/Nosql.html#_9441494032710129_695390093706
[Link 14]: http://sebug.net/paper/databases/nosql/Nosql.html#_6926584525683441_048149148503_6730095064772663
[Link 15]: http://sebug.net/paper/databases/nosql/Nosql.html#_6616530869432342_668499063771_40951742786596446
[Link 16]: http://sebug.net/paper/databases/nosql/Nosql.html#_9307460655327144_814779051211_16340782010495503
[Link 17]: http://sebug.net/paper/databases/nosql/Nosql.html#_0735241653420401_214353696530_10910972604729818
[Link 18]: http://sebug.net/paper/databases/nosql/Nosql.html#_023765667772280286_6105495251
[Link 19]: http://sebug.net/paper/databases/nosql/Nosql.html#_22756486493872252_88319420976
[MemCached]: http://sebug.net/paper/databases/nosql/Nosql.html#MemCached_4727136253125943_099_19137860612924817
[Link 20]: http://sebug.net/paper/databases/nosql/Nosql.html#_5715430571410516_795932562480_594496466269948
[Link 21]: http://sebug.net/paper/databases/nosql/Nosql.html#_30675244504305366_58003565301_10183704247790026
[Link 22]: http://sebug.net/paper/databases/nosql/Nosql.html#_25401546959033316_54044164260_21550351004030177
[Link 23]: http://sebug.net/paper/databases/nosql/Nosql.html#_9681760638005524_476574154195_29919331639865443
[Link 24]: http://sebug.net/paper/databases/nosql/Nosql.html#_24413638147967254_17374089581
[Memcached_mc]: http://sebug.net/paper/databases/nosql/Nosql.html#Memcached_mc_4754505836919398_
[Web]: http://sebug.net/paper/databases/nosql/Nosql.html#_Web_06299667034235767_0770205
[Link 25]: http://sebug.net/paper/databases/nosql/Nosql.html#_2923975010491904_991216856614_6695281938071784
[dbcached]: http://sebug.net/paper/databases/nosql/Nosql.html#dbcached_24141833575267735_558
[Memcached _ dbcached]: http://sebug.net/paper/databases/nosql/Nosql.html#Memcached_dbcached_80228012544_7159779747569146
[Link 26]: http://sebug.net/paper/databases/nosql/Nosql.html#_12254020875723726_93237325335
[Hadoop_Hbase]: http://sebug.net/paper/databases/nosql/Nosql.html#Hadoop_Hbase_7008211932696602_
[HadoopDB]: http://sebug.net/paper/databases/nosql/Nosql.html#_HadoopDB_694108467096603_8508
[GreenPlum]: http://sebug.net/paper/databases/nosql/Nosql.html#GreenPlum_9589918625911178_389_2571204937078031
[FaceBook_Cassandra]: http://sebug.net/paper/databases/nosql/Nosql.html#FaceBook_Cassandra_67775802042_5854484279820851
[Cassandra]: http://sebug.net/paper/databases/nosql/Nosql.html#Cassandra_7570848905089025_855
[Keyspace]: http://sebug.net/paper/databases/nosql/Nosql.html#Keyspace_4281837751378973_7779
[Column family_CF]: http://sebug.net/paper/databases/nosql/Nosql.html#Column_family_CF_7300188887469
[Key]: http://sebug.net/paper/databases/nosql/Nosql.html#Key_8652924433729429_945524073
[Column]: http://sebug.net/paper/databases/nosql/Nosql.html#Column_7210506089658316_137983
[Super column]: http://sebug.net/paper/databases/nosql/Nosql.html#Super_column_7509394918740693__5465405669459864
[Sorting]: http://sebug.net/paper/databases/nosql/Nosql.html#Sorting_02237180483759471_3623
[Link 27]: http://sebug.net/paper/databases/nosql/Nosql.html#_9140782690107976_782512314168_5668600168551156
[API]: http://sebug.net/paper/databases/nosql/Nosql.html#API_26318602548081826_11761206
[Google_BigTable]: http://sebug.net/paper/databases/nosql/Nosql.html#Google_BigTable_89699097442012_4732490241509013
[Yahoo_PNUTS]: http://sebug.net/paper/databases/nosql/Nosql.html#Yahoo_PNUTS_8920611285743113_6
[Link 28]: http://sebug.net/paper/databases/nosql/Nosql.html#_277640536666413_1438417866912_5870416136781664
[PNUTS]: http://sebug.net/paper/databases/nosql/Nosql.html#PNUTS_5128583965993961_2354956
[Record-level mastering]: http://sebug.net/paper/databases/nosql/Nosql.html#Record_level_mastering_5517762_46835816908332717
[PNUTS 1]: http://sebug.net/paper/databases/nosql/Nosql.html#PNUTS_8107177845815062_9043074_09676675858475725
[Tablets]: http://sebug.net/paper/databases/nosql/Nosql.html#Tablets_42011614117692475_6287_8740690747386985
[Write]: http://sebug.net/paper/databases/nosql/Nosql.html#Write_09715737083689369_039670_4594814468066295
[PNUTS 2]: http://sebug.net/paper/databases/nosql/Nosql.html#PNUTS_232566011293608_85456655
[SQL]: http://sebug.net/paper/databases/nosql/Nosql.html#_SQL_014314330249305951_274686
[Link 29]: http://sebug.net/paper/databases/nosql/Nosql.html#_5549467765717498_055917970185
[Link 30]: http://sebug.net/paper/databases/nosql/Nosql.html#Document_Store_448677452585955
[CouchDB]: http://sebug.net/paper/databases/nosql/Nosql.html#CouchDB_1114163929904669_32220
[Link 31]: http://sebug.net/paper/databases/nosql/Nosql.html#id3_7125310846245526_994698240_046846452482873
[Riak]: http://sebug.net/paper/databases/nosql/Nosql.html#Riak_22101400413903483_0979197
[MongoDB]: http://sebug.net/paper/databases/nosql/Nosql.html#MongoDB_6119060613540953_36142
[Terrastore]: http://sebug.net/paper/databases/nosql/Nosql.html#Terrastore_9954661491866293_58
[ThruDB]: http://sebug.net/paper/databases/nosql/Nosql.html#ThruDB_380390167243812_4644251
[Key Value _ Tuple]: http://sebug.net/paper/databases/nosql/Nosql.html#Key_Value_Tuple_Store_89361288
[Amazon_SimpleDB]: http://sebug.net/paper/databases/nosql/Nosql.html#Amazon_SimpleDB_52017362120027_8392263913000672
[Chordless]: http://sebug.net/paper/databases/nosql/Nosql.html#Chordless_5471036441883179_507
[Redis]: http://sebug.net/paper/databases/nosql/Nosql.html#Redis_5387336107639441_6223163
[Scalaris]: http://sebug.net/paper/databases/nosql/Nosql.html#Scalaris_7621760337337995_5287
[Tokyo cabinet _ Tyrant]: http://sebug.net/paper/databases/nosql/Nosql.html#Tokyo_cabinet_Tyrant_545688958_7406684038893259
[CT.M]: http://sebug.net/paper/databases/nosql/Nosql.html#CT_M_9097645017290603_52052040
[Scalien]: http://sebug.net/paper/databases/nosql/Nosql.html#Scalien_704454814757133_326936
[Berkley DB]: http://sebug.net/paper/databases/nosql/Nosql.html#Berkley_DB_9606079710191457_91
[MemcacheDB]: http://sebug.net/paper/databases/nosql/Nosql.html#MemcacheDB_06512137876498592_4
[Mnesia]: http://sebug.net/paper/databases/nosql/Nosql.html#Mnesia_9154183157888259_898783
[LightCloud]: http://sebug.net/paper/databases/nosql/Nosql.html#LightCloud_823765875537818_453
[HamsterDB]: http://sebug.net/paper/databases/nosql/Nosql.html#HamsterDB_05420895958151517_68
[Flare]: http://sebug.net/paper/databases/nosql/Nosql.html#Flare_8050426165277293_5400566_5744763652908157
[Key Value]: http://sebug.net/paper/databases/nosql/Nosql.html#Eventually_Consistent_Key_Valu
[Amazon_Dynamo]: http://sebug.net/paper/databases/nosql/Nosql.html#_Amazon_Dynamo_520203814357290
[Link 32]: http://sebug.net/paper/databases/nosql/Nosql.html#_5504176676028282_249060984314_6205024527039867
[Link 33]: http://sebug.net/paper/databases/nosql/Nosql.html#_3991007534787059_800100618042
[BeansDB]: http://sebug.net/paper/databases/nosql/Nosql.html#BeansDB_46725810039788485_1444_6422195057201686
[Link 34]: http://sebug.net/paper/databases/nosql/Nosql.html#_855878707383143_0006899688354_7439637158723382
[Link 35]: http://sebug.net/paper/databases/nosql/Nosql.html#_8856209489372642_306660973986_09293410042228067
[Link 36]: http://sebug.net/paper/databases/nosql/Nosql.html#_5668651611345044_858602237877_6976689272639188
[Link 37]: http://sebug.net/paper/databases/nosql/Nosql.html#_25480733904987574_39869615321
[Nuclear]: http://sebug.net/paper/databases/nosql/Nosql.html#Nuclear_5671010203671387_94607_5087654534821493
[Tips]: http://sebug.net/paper/databases/nosql/Nosql.html#_Tips_7329128378643512_0444030_21084614206097596
[Voldemort]: http://sebug.net/paper/databases/nosql/Nosql.html#Voldemort_09926958376271466_23_3723235398029888
[Dynomite]: http://sebug.net/paper/databases/nosql/Nosql.html#Dynomite_9324181654488122_3155
[Kai]: http://sebug.net/paper/databases/nosql/Nosql.html#Kai_8461184647175368_911329902
[Link 38]: http://sebug.net/paper/databases/nosql/Nosql.html#Object_Databases_8488295138588
[Skynet]: http://sebug.net/paper/databases/nosql/Nosql.html#Skynet_9220649347100478_689227
[Drizzle]: http://sebug.net/paper/databases/nosql/Nosql.html#Drizzle_9847466828815841_11171_39190645551632586
[Link 39]: http://sebug.net/paper/databases/nosql/Nosql.html#_9596271403133869_245301471091_30492524683708877
[Link 40]: http://sebug.net/paper/databases/nosql/Nosql.html#_10969047341495752_68719353526
[Link 41]: http://sebug.net/paper/databases/nosql/Nosql.html#_587794222868979_1359147783368_00199023178757618
[Link 42]: http://sebug.net/paper/databases/nosql/Nosql.html#_23622012604027987_99347529746_4971976801014726
[Link 43]: http://sebug.net/paper/databases/nosql/Nosql.html#_6041983840987086_405110552906
[eBay]: http://sebug.net/paper/databases/nosql/Nosql.html#eBay_7439944222569466_24644076_7816704294788374
[Link 44]: http://sebug.net/paper/databases/nosql/Nosql.html#_7241636626422405_709893183782_6238797470731577
[Flickr]: http://sebug.net/paper/databases/nosql/Nosql.html#_Flickr_11598328692846749_1352
[Twitter]: http://sebug.net/paper/databases/nosql/Nosql.html#Twitter_9210753435831028_97021_8836312611977271
[Link 45]: http://sebug.net/paper/databases/nosql/Nosql.html#_6155514829537361_554680225560
[Metrics]: http://sebug.net/paper/databases/nosql/Nosql.html#_Metrics_44020236287486847_696
[Link 46]: http://sebug.net/paper/databases/nosql/Nosql.html#_6825445668030796_760233095682
[Darkmode]: http://sebug.net/paper/databases/nosql/Nosql.html#Darkmode_5259184612638798_9242_24315166669659272
[Link 47]: http://sebug.net/paper/databases/nosql/Nosql.html#_15026388981903727_49114302769
[Link 48]: http://sebug.net/paper/databases/nosql/Nosql.html#_0638721247682108_828753285625
[Link 49]: http://sebug.net/paper/databases/nosql/Nosql.html#_20228313746363413_71546543696
[Review]: http://sebug.net/paper/databases/nosql/Nosql.html#_Review_2868290775437222_09924_496206508469592
[Link 50]: http://sebug.net/paper/databases/nosql/Nosql.html#_9450378125913654_306697729191
[Link 51]: http://sebug.net/paper/databases/nosql/Nosql.html#_9827601284285629_932863057418_1654637779888143
[Cache]: http://sebug.net/paper/databases/nosql/Nosql.html#Cache_7188110122840438_8250995
[Link 52]: http://sebug.net/paper/databases/nosql/Nosql.html#_7156457947548296_394763811409
[Link 53]: http://sebug.net/paper/databases/nosql/Nosql.html#_6254229054692272_031210319731
[Single Point of Failure]: http://sebug.net/paper/databases/nosql/Nosql.html#1_Single_Point_of_Failure_0747
[Link 54]: http://sebug.net/paper/databases/nosql/Nosql.html#2_4706029240041971_38065281044
[Link 55]: http://sebug.net/paper/databases/nosql/Nosql.html#3_2901653153821826_08160938974
[Link 56]: http://sebug.net/paper/databases/nosql/Nosql.html#4_6656234869733453_99668187927
[Link 57]: http://sebug.net/paper/databases/nosql/Nosql.html#6_27202645502984524_3263167534
[Link 58]: http://sebug.net/paper/databases/nosql/Nosql.html#7_1922687441110611_96343139093
[Link 59]: http://sebug.net/paper/databases/nosql/Nosql.html#8_03636558633297682_8496042666
[OLAP]: http://sebug.net/paper/databases/nosql/Nosql.html#OLAP_9558059629367476_3836398019139299
[OLAP 1]: http://sebug.net/paper/databases/nosql/Nosql.html#OLAP_4599690049262246
[NOSQL]: http://sebug.net/paper/databases/nosql/Nosql.html#NOSQL__09502721972778405
[Link 60]: http://sebug.net/paper/databases/nosql/Nosql.html#_8299268803807944
[Link 61]: http://sebug.net/paper/databases/nosql/Nosql.html#_3399782225793654
[Link 62]: http://sebug.net/paper/databases/nosql/Nosql.html#_6817497787365963
[Link 63]: http://sebug.net/paper/databases/nosql/Nosql.html#_41232823879475633
[Link 64]: http://sebug.net/paper/databases/nosql/Nosql.html#_4374214008737275
[Map_Reduce]: http://sebug.net/paper/databases/nosql/Nosql.html#_Map_Reduce__0618697512503632
[Link 65]: http://sebug.net/paper/databases/nosql/Nosql.html#_7409241799750766
[Link 66]: http://sebug.net/paper/databases/nosql/Nosql.html#_147455643042405
[Link 67]: http://sebug.net/paper/databases/nosql/Nosql.html#_6712483493611217_093368983827
[Link 68]: http://sebug.net/paper/databases/nosql/Nosql.html#_2173698448339071_054548149739
[Link 69]: http://sebug.net/paper/databases/nosql/Nosql.html#_6935117091385137_745914644052_9642310538889594
[Link 70]: http://sebug.net/paper/databases/nosql/Nosql.html#_4067787453532219_249561086297_6469049028134853
[dc23x53c_77fkmccfdv_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_77fkmccfdv_b.png
[Brewer_s CAP Theorem]: http://www.julianbrowne.com/article/viewer/brewers-cap-theorem
[Jim Gray]: http://en.wikipedia.org/wiki/Jim_Gray_%28computer_scientist%29
[dc23x53c_103c5pxtr9r_b.gif]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_103c5pxtr9r_b.gif
[Jim Gray 1]: http://research.microsoft.com/%7EGray/JimGrayHomePageSummary.htm
[Tim Bray]: http://www.tbray.org/ongoing/
[Link 71]: http://www.tbray.org/ongoing/When/200x/2006/05/24/On-Grids
[Link 72]: http://www.computingatscale.com/?p=54
[Link 73]: http://www.25hoursaday.com/weblog/2008/05/23/SomeThoughtsOnTwittersAvailabilityProblems.aspx
[Tom White]: http://www.lexemetech.com/
[Hadoop Core]: http://hadoop.apache.org/core
[Link 74]: http://www.lexemetech.com/2008/03/disks-have-become-tapes.html
[White]: http://www.lexemetech.com/2008/03/disks-have-become-tapes.html?showComment=1205973660000#c2336624186434337035
[SSD_RAM]: http://www.lexemetech.com/2008/03/disks-have-become-tapes.html?showComment=1205987880000#c135263265622703132
[Link 75]: http://natishalom.typepad.com/nati_shaloms_blog/2008/03/scaling-out-mys.html
[dc23x53c_78ggwcxmgn_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_78ggwcxmgn_b.png
[dc23x53c_80gzzxqdgk_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_80gzzxqdgk_b.png
[dc23x53c_104d7fjkfck_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_104d7fjkfck_b.png
[Link 76]: http://alan.blog-city.com/has_amazon_ec2_become_over_subscribed.htm
[SMALL INSTANCE]: http://aws.amazon.com/ec2/instance-types/
[dc23x53c_112ff7mw3fq_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_112ff7mw3fq_b.png
[dc23x53c_6638pgtkct_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_6638pgtkct_b.png
[dc23x53c_111dtk7hkdn_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_111dtk7hkdn_b.png
[dc23x53c_93cjhqxb2q_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_93cjhqxb2q_b.png
[dc23x53c_94g3p4wtgk_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_94g3p4wtgk_b.png
[dc23x53c_95gh7cjsgz_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_95gh7cjsgz_b.png
[dc23x53c_96fdjnq2hg_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_96fdjnq2hg_b.png
[dc23x53c_97ffnxbmf6_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_97ffnxbmf6_b.png
[dc23x53c_98htgqg5c3_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_98htgqg5c3_b.png
[paxos]: http://en.wikipedia.org/wiki/Paxos_algorithm
[dc23x53c_76dxddz8dw_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_76dxddz8dw_b.png
[dc23x53c_105gpqm25hj_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_105gpqm25hj_b.png
[Distributed hash table]: http://en.wikipedia.org/wiki/Distributed_hash_table
[dc23x53c_115dwv72ngt_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_115dwv72ngt_b.png
[dc23x53c_99d5m2gsfq_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_99d5m2gsfq_b.png
[CouchDB 1]: http://horicky.blogspot.com/2008/10/couchdb-implementation.html
[dc23x53c_100c7bszndf_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_100c7bszndf_b.png
[dc23x53c_101d6ncwfc4_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_101d6ncwfc4_b.png
[dc23x53c_102hcphxkdh_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_102hcphxkdh_b.png
[dc23x53c_113cw38kwg3_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_113cw38kwg3_b.png
[dc23x53c_114gjbfqhcp_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_114gjbfqhcp_b.png
[dc2sjkhq_1d2t9rdfk_b.png]: http://cache.ssvdb.com/n7213e6f7/dc2sjkhq_1d2t9rdfk_b.png
[Link 77]: http://www.penglixun.com/work/database/column-oriented_dbms_analyse.html
[dc23x53c_124d7q729fh_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_124d7q729fh_b.png
[dc23x53c_125dfz3gt3c_b.jpg]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_125dfz3gt3c_b.jpg
[memcached api page]: http://danga.com/memcached/apis.bml
[Link 78]: http://blog.developers.api.sina.com.cn/?p=124
[Link 79]: http://tech.idv2.com/2008/08/17/memcached-pdf/
[Report of Benchmark Test]: http://qdbm.sourceforge.net/benchmark.pdf
[dc23x53c_127vqxjp7z7_b.gif]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_127vqxjp7z7_b.gif
[dbcached _ Memcachedb]: http://code.google.com/p/dbcached/wiki/Failover
[Hadoop _ HBase]: http://hadoop.apache.org/
[1]: http://www.amazon.com/Hadoop-Action-Chuck-Lam/dp/1935182196/ref=sr_1_3?ie=UTF8&s=books&qid=1256498379&sr=1-3
[2]: http://www.amazon.com/Pro-Hadoop-Jason-Venner/dp/1430219424/ref=sr_1_2?ie=UTF8&s=books&qid=1256498379&sr=1-2
[3]: http://www.amazon.com/Hadoop-Definitive-Guide-Tom-White/dp/0596521979/ref=sr_1_1?ie=UTF8&s=books&qid=1256498379&sr=1-1
[dc23x53c_118gqxr8cgq_b.jpg]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_118gqxr8cgq_b.jpg
[dc23x53c_119ds5xg9gp_b.jpg]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_119ds5xg9gp_b.jpg
[Cassandra 1]: http://incubator.apache.org/cassandra/
[Link 80]: http://incubator.apache.org/thrift/
[Link 81]: http://www.slideshare.net/jericevans/an-introduction-to-cassandra
[Link 82]: http://wiki.apache.org/cassandra/ClientExamples
[http_blog.evanweaver.com_articles_2009_07_06_up-and-running-with-cassandra]: http://blog.evanweaver.com/articles/2009/07/06/up-and-running-with-cassandra/
[dc23x53c_122cqsw5xdj_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_122cqsw5xdj_b.png
[dc23x53c_123gb8mg9gk_b.png]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_123gb8mg9gk_b.png
[Link 83]: http://www.hellodba.net/
[Hypertable]: http://couchdb.apache.org/
[Bigtable]: http://labs.google.com/papers/bigtable.html
[Link 84]: http://www.baidu.com/
[dc23x53c_133fmsdjkfj_b.jpg]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_133fmsdjkfj_b.jpg
[Google AppEngine Datastore]: http://code.google.com/appengine/docs/python/datastore/
[EXTERN_0000.jpg]: http://cache.ssvdb.com/n7213e6f7/EXTERN_0000.jpg
[EXTERN_0001.jpg]: http://cache.ssvdb.com/n7213e6f7/EXTERN_0001.jpg
[EXTERN_0002.png]: http://cache.ssvdb.com/n7213e6f7/EXTERN_0002.png
[dc23x53c_131c6c5wjzd_b.jpg]: http://cache.ssvdb.com/n7213e6f7/dc23x53c_131c6c5wjzd_b.jpg
[I want a big_ virtual database]: http://glinden.blogspot.com/2006/03/i-want-big-virtual-database.html
[SQL 1]: http://www.microsoft.com/azure/data.mspx
[Azure]: http://www.microsoft.com/azure/default.mspx
[LNMP _502]: http://ask.chinaunix.net/question/785370
[suse _shell_...]: http://ask.chinaunix.net/question/785369
[unix _ip]: http://ask.chinaunix.net/question/292361
[hp-un _...]: http://ask.chinaunix.net/question/37122
[mysql_Starting MySQ...]: http://ask.chinaunix.net/question/4616