欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  后端开发

100万条记录的文本文件,取出重复数最多的前10条。

程序员文章站 2022-06-01 21:29:40
...
1. 100万条记录的文本文件,取出重复数最多的前10条。
示例文本:
098
123
234
789
……
234
678
654
123

求思路


回复讨论(解决方案)

导入到表中,然后用sql统计,不知道可行不。你可以试试。

导入到表中,然后用sql统计,不知道可行不。你可以试试。


这样肯定可行,但应该不是出题者想要的解决方法。想要采用PHP处理或算法

explode //读取分割成数组
array_count_values//统计重复次数
arsort//排序,得到结果

可以对文本分块处理,记录结果,估计一次性读取的话,内存也吃不住...

可以对文本分块处理,记录结果,估计一次性读取的话,内存也吃不住...


恩,你的方法靠普, 能细说一下么

$fp = fopen('文件', 'r');while($buf = fgets($fp)) {  $res[$buf]++;}fclose($fp);arsort($res);$res = array_keys(array_slice($res, 0, 10));print_r($res);

当100万条记录半数是唯一的情况下,与下面的算法没有多大区别
$a = file('文件');$res = array_count_values($a);arsort($res);$res = array_keys(array_slice($res, 0, 10));print_r($res);

先批量插入到数据库,然后 使用 sql 语句的 group by 和order by实现