如何在Python中编写简单代码,并且速度超越Spark?( 五 )
\n \n \n
本文使用单GPU (NVIDIA T4) 它可以使服务器价格增加约30% , 性能提升30多倍 。 只使用几行Python代码 , 每秒就可处理1千兆字节的复杂数据 。 哇!!
\n \n如果将此代码打包在无服务器函数中 , 它可以在每次用户请求时或定期运行 , 并读取或写入动态附加的数据卷 。
\n \nPython中可实现实时流吗?
\n \n你是否尝试使用Python执行实时流式传输?好吧 , 我们做到了 。 以下代码选取自Kafka最佳实践指南 , 此代码从流中读取 , 同时并未额外处理 。
\n \n \n\n \n \n
问题在于Python本质上是同步的 , 而其在实时或复杂的数据操作方面效率相当低 。 该程序每秒只生成几千条消息 , 而且还没做任何有意思的工作 。 当我们添加前文示例中使用的json和pandas处理时 , 性能会进一步降低 , 处理速度仅为18MB / s 。 那么 , 是否需要回到Spark进行流处理呢?
\n \n推荐阅读
- 小鱼人|如何在新赛季稳定上分?善于抓失误的小鱼人,值得认真练上一波
- 真女神转生5|梦幻西游:如何在商会开一个物品储备店
- 甘蔗|如何在Minecraft获得“水下空气”?大佬:一个甘蔗就能搞定!
- gk战队|英雄联盟情怀老玩家如何在手游中再现风采?玩好赵信就能轻松上分
- 热血传奇|热血传奇:如何在传奇中逐步积累优势?这些方法你了解吗?
- 手机游戏|英雄联盟手游:回城买装备的意义何在?浪费时间背后的战略意义
- mmo|mmo游戏再获新生?被判“死刑”的mmo,为何在2021年集体爆发
- ag战队|生存游戏内,危险角色的魅力何在?
- 地下城与勇士|DNF:“有军选军,无军选针!”时空手镯为何在版本末期逆袭?
- 红流|英雄联盟:唯一的版本真神——论红流战士如何在这个时代独占鳌头