博客

需要从一个超级大的文件里随机提取两百万行数据，而且不可以重复。从网上参考了各种代码拼拼凑凑完成了功能，研究完代码写了个通俗点的注释，希望可以帮助小白。（其实我就是个小白，哈哈）

原理就是把整个文件按行先存进内存里，然后要做的就是拿到两百万个不重复的数了。

package function;
 
import java.io.BufferedReader;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileReader;
import java.io.FileWriter;
import java.util.ArrayList;
/**
 * 随机抽取文件中的N行数据
 * @author Margin
 *
 */
public class Abstract {
	
	public void abstractTxt(String url) throws Exception{
		ArrayList<String> list = new ArrayList<String>();
		FileReader fr = new FileReader(url);
		BufferedReader br = new BufferedReader(fr);
		String temp = "";
		while((temp=br.readLine()) != null){
			temp=br.readLine();
			list.add(temp);
		}
		//我需要的萝卜数量
		int k = 2000000;
		//萝卜地的萝卜数量
		int n = list.size();
		//来到了萝卜养殖场
		int[] numbers = new int[n];
		for(int i = 0; i<numbers.length; i++){
			numbers[i] =i + 1;
		}
		//掏出麻袋，准备装萝卜！！go go go
		int[] result = new int[k];
		for (int i = 0; i < result.length; i++) {
			/*佛性选个坑*/
			int r = (int)(Math.random() * n);
			/*拔个萝卜放麻袋里*/
			result[i] = numbers[r];
			/*把最后的萝卜放到空坑里*/
			numbers[r] = numbers[n-1];
			/*把最后一个坑埋上*/
			n--;
		}
		
		
		File f = new File("D:\\提取.txt");
		FileWriter fileWriter = new FileWriter(f);
		BufferedWriter bw = new BufferedWriter(fileWriter);
		for(int i:result){
			String string = list.get(i);
			bw.write(string);
			bw.newLine();
			
		}
		bw.flush();
		bw.close();
		fileWriter.close();
	}
	
	public static void main(String[] args) throws Exception {
		new Abstract().abstractTxt("D:\\Margin.txt");
	}
}