【学习笔记】大规模数据处理学习03 ## Top K算法当数据规模变大会遇到哪些问 ...

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

大规模数据处理学习03

## Top K算法当数据规模变大会遇到哪些问题
---
1.内存占用：
比如1000亿行的文件或者表，然后再把销量统计结果一行一行读进
后面的堆树/优先级队列里，肯定不可信，对于TB级的交易记录数
据，很难找到单台计算机容纳那么大的哈希表
2.磁盘I/O延时
一次磁盘读取大概需要10ms的时间
### 大规模分布式解决方案
需要把每一步从简单的函数算法，升级为计算集群的分布式算法

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：数据处理 学习笔记 习笔记 大规模 Top

学习笔记奖！