在Spark,Flink和Kafka中流式传输

在何时使用spark,何时使用flink和何时使用Kafka之间有很多嗡嗡声。 Spark流和flink都提供了一次保证 ,即每条记录将被处理一次,从而消除了任何可能的重复项。 与任何其他处理系统(如Storm)相比,两者都提供了非常高的吞吐量,并且两个处理引擎中的容错开销都很低,而Kafka客户端最多可以创建一次,至少可以一次创建, 一旦消息处理需要。 Kafka被用于两大类应用程序: 建立实时流数据管道,以可靠地在系统或应用程序之间获取数据 构建实时流应用程序,以转换或响应数据流。 需要实时流处理 ,因为数据是作为连续的事件流到达的 ,例如运动中的汽车发出GPS信号,金融交易,手机信号塔之间的信号交换,网络流量(包括会话跟踪,了解用户)网站上的行为,工业传感器的测量结果。 因此,对于所有这些类型的数据,流处理是处理此类数据的更好方法。 流处理对于保持一致性和容错性具有挑战性,因为与此数据生成和处理相关联的动态性,您需要一个可以跟上并处理连接中断的系统,还需要能够从中使用数据的能力。流处理器,因此您需要能够以窗口的形式回答复杂的查询,因此您需要丰富的窗口定义,不同的方式来提取信息并汇总信息,并且您也不想让系统陷入困境需要流处理器中的低延迟和高吞吐量。 Spark Streaming和Flink的不同之处在于它们的计算模型,而Spark采用了微型批次Flink采用了基于连续流操作的流模型。 就窗口标准而言,spark具有基于时间的窗口标准,而flink具有基于记录的或任何自定义使用的已定义窗口标准。 Flink和Spark都是通用数据处理平台,也是Apache Software…

从整体中流式传输数据:构建高度可靠的CDC堆栈

介绍 BlaBlaCar的软件体系结构正受到其成长和团队组织的挑战。 从历史上看,它的后端是一个PHP巨石,在RabbitMQ代理周围有数百名异步工作者,以及一堆预定的cron作业。 为了进行扩展,从2017年初开始,我们决定升级此骨干网:将整体移植到面向服务的体系结构(SOA)。 在迁移期间,整料和SOA必须在生产中共存。 小心谨慎地逐段删除整体代码,直到将其完全由服务替换。 同时,业务显然需要保持运行,新功能和修复程序需要不断实施。 整个过程就像更换飞行器的引擎一样。 但是,我们如何保证整体和服务之间的数据一致性? 我们如何知道服务何时以与整体相同的方式运行? 我们何时知道服务是否准备就绪,可以依赖整体中的相关代码和数据? 为了回答所有这些问题,我们构建了可靠的变更数据捕获(CDC)堆栈,使服务可以观察MySQL整体数据库的所有数据库更改。 CDC数据可以被认为是事实的来源,因此服务可以将数据与自己的数据进行比较,并在存在任何不一致的情况下报告指标,并最终用事实来纠正错误的数据。 此外,可靠的CDC数据可用于简化我们当前的后端数据跟踪堆栈,并减少开发新功能和为商业智能收集数据之间的摩擦。 在这篇文章中,我们将解释该CDC堆栈的构建方式,并更具体地关注于我们如何使其高度可靠。 CDC和Debezium 更改数据捕获是一种软件设计模式,它记录了应用于数据库表的INSERT,UPDATE和DELETE,并提供了有关更改内容,更改时间和更改时间的记录。 Debezium是一个开源项目,为更改数据捕获(CDC)提供了低延迟的数据流平台。…

向Rabbit发布一些华丽的更新

好友功能又回来了! 去年下半年,我们发布了Rabbit移动体验的更新时,我们承诺即将进行Web更新。 好吧,他们在这里! 您过去在移动设备上喜欢的所有很棒的功能现在也都在网络上:网上论坛中的更多功能,可以与朋友实时观看或稍后自己进行追赶的功能,通用搜索所有流媒体的功能订阅以及美观,简化的设计。 您还会发现: 网路上的全新面貌。 我们的移动更新简化了您在手机上使用和浏览Rabbit的方式,现在我们也对Rabbit在网络上的外观和功能进行了重大更新。 除了与移动应用程序相匹配的新颖外观外,我们还简化了网络体验的各个部分,以使查找想要观看的节目,组建团队,添加朋友以及与他人互动的过程变得更加容易。很棒的观赏派对。 通过新的设计和功能,我们添加了新的提示,可帮助您正确地与朋友一起观看。 让我们留下朋友吧。 我们正在通过此网络更新与朋友保持联系-—大新闻! -由于受欢迎的需求,它又回到了移动设备上。 Rabbit上的Friends就是为了让观看…,等待…,您的朋友变得容易。 通过此更新,我们简化了“朋友”,因此您只需单击一下即可开始或加入一个小组。 当朋友开始观看节目时,我们甚至会发送通知,以便您可以打个招呼或和他们一起观看节目。 朋友对网络有了一个全新的外观,并且通过将其移到最前面可以更轻松地找到它。 在您喜欢的任何屏幕上与朋友一起观看。 借助此网络更新,您小组中的人可以观看对他们有用的任何方式。…