2-十七道海量数据处理面试题与bit-map详解.pdfVIP

2._十七道海量数据处理面试题与 Bit-map 详解 作者：小桥流水，redfox66，July 。 前言 本博客内曾经整理过有关海量数据处理的 10 道面试题（十道海量数据处理面试题与十个方 法大总结），此次除了重复了之前的 10 道面试题之后，重新多整理了 7 道。仅作各位参考， 不作它用。 同时，程序员编程艺术系列将重新开始创作，第十一章以后的部分题目来源将取自下文中的 17 道海量数据处理的面试题。因为，我们觉得，下文的每一道面试题都值得重新思考，重 新深究与学习。再者，编程艺术系列的前十章也是这么来的。若您有任何问题或建议，欢迎 不吝指正。谢谢。 第一部分、十五道海量数据处理面试题 1. 给定 a、b 两个文件，各存放 50 亿个 url，每个 url 各占 64 字节，内存限制是 4G，让 你找出 a、b 文件共同的 url？ 方案 1：可以估计每个文件安的大小为50G×64=320G，远远大于内存限制的4G 。所以不 可能将其完全加载到内存中处理。考虑采取分而治之的方法。 1.遍历文件 a，对每个 url 求取 ，然后根据所取得的值将 url 分别存 储到 1000 个小文件（记为 ）中。这样每个小文件的大约为300M。 2.遍历文件 b，采取和 a 相同的方式将 url 分别存储到 1000 小文件中（记为 ）。这样处理后，所有可能相同的 url 都在对应的小文件 （ ）中，不对应的小文件不可能有相同的url。然后 我们只要求出 1000 对小文件中相同的 url 即可。 3.求每对小文件中相同的 url 时，可以把其中一个小文件的 url 存储到 hash_set 中。 然后遍历另一个小文件的每个 url，看其是否在刚才构建的 hash_set 中，如果是， 那么就是共同的 url，存到文件里面就可以了。 方案 2：如果允许有一定的错误率，可以使用 Bloom filter，4G 内存大概可以表示340 亿 bit。将其中一个文件中的url 使用 Bloom filter 映射为这 340 亿 bit，然后挨个读取另外一个 文件的 url，检查是否与 Bloom filter，如果是，那么该 url 应该是共同的 url （注意会有一定 的错误率）。 读者反馈@crowgns： 1.hash 后要判断每个文件大小，如果 hash 分的不均衡有文件较大，还应继续 hash 分文件，换个 hash 算法第二次再分较大的文件，一直分到没有较大的文件为止。 这样文件标号可以用 A1-2 表示（第一次 hash 编号为 1，文件较大所以参加第二 次 hash，编号为 2 ） 2. 由于 1 存在，第一次 hash 如果有大文件，不能用直接 set 的方法。建议对每个文 件都先用字符串自然顺序排序，然后具有相同 hash 编号的（如都是 1-3，而不 能 a 编号是 1，b 编号是 1-1 和 1-2 ），可以直接从头到尾比较一遍。对于层级 不一致的，如 a1，b 有 1-1，1-2-1，1-2-2，层级浅的要和层级深的每个文件都 比较一次，才能确认每个相同的uri。 2. 有 10 个文件，每个文件 1G，每个文件的每一行存放的都是用户的 query，每个文件的 query 都可能重复。要求你按照 query 的频度排序。 方案 1： 1.顺序读取 10 个文件，按照 hash(query)%10 的结果将query 写入到另外 10 个文 件（记为 ）中。这样新生成的文件每个的大小大约也 1G （假设hash 函数是随机的）。 2.找一台内存在 2G 左右的机器，依次对 用 hash_map(query, query_count)来统计每个 query 出现的次数。利用快速/堆/归并排序按照出现次 数进行排序。将排序好的 query 和对应的 query_cout 输出到文件中。这样得到