Membase与Cloudera宣布整合
时间:2010-10-20 来源:cnblogs
在本周的Hadoop World大会上,Membase和Cloudera宣布整合Membase服务器和CDH(Cloudera Distribution for Hadoop)。Membase是日前发布的一款数据库,InfoQ上也有报道。Hadoop是一个开源项目,它包括分布式存储和MapReduce处理框架。在大会上,AOL Advertising和ShareThis展示了他们如何运用它进行定向广告投放和广告服务平台的整合。
James Phillips,Membase的合作创始人兼高级副总裁在博客中写道:
在技术整合上,我们已经为客户建立了两种Membase和CDH的整合机制,而且即将可用。其一是Membase的NodeCode模块,它可实时地将Membase到CDH的数据转换成流。新操作数据一旦进入Membase,就可实时转换成消息并灌入CHD集群以备处理。其二是一个由Sqoop衍生出来的批量加载工具,它可以从Membase向CDH加载数据,反向亦可。据Perry Krug,Member的系统工程师,实时整合使用了Cloudera的Flume项目将Membase中的更新转换成事件,并最终存储在Hadoop分布式文件系统中。
Pero Subasic,AOL的首席架构师指出:
AOL每天要服务来自广告服务平台的数十亿次印象(impression,译注:impresssion是广告中的术语,通常用于收费,如CPM,即每千次印象成本),任何处理时间上的改进都反映了我们能够更有效地履行合同约束、服务与广告的能力,进而转换成巨大利益。对于我们每次读/写5毫秒的目标,缺乏伸缩性的传统数据库难以满足。当我们在Hadoop上建立用户账户,然后使用Membase服务于它时,可将账户读写时间减低到1毫秒以内,从而腾出了大量处理时间服务于定向广告投放和定制化。Cloudera首席执行官Mike Olson提出:
Membase服务器与CDH的整合为客户增添了许多他们感兴趣的功能。其结果是一个高度优化的几乎无延时的数据交付系统。实时处理能力对任何必须做出非一致性决定的解决方案(如广告定向投放和实时社交游戏)都是至关重要的。Phillips指出,除了整合软件的发布之外,Cloudera与Membase正致力于为“定向广告、报价及内容;日志和事件流抓取及分析;实时社交游戏”搭建联合解决方案。
查看英文原文:Membase and Cloudera Announce Integration
相关阅读 更多 +