深入分析:用1K内存实现高效I/O的RandomAccessFile类的详解

主体：
目前最流行的j2sdk版本是1.3系列。使用该版本的开发人员需文件随机存取，就得使用randomaccessfile类。其i/o性能较之其它常用开发语言的同类性能差距甚远，严重影响程序的运行效率。
开发人员迫切需要提高效率，下面分析randomaccessfile等文件类的源代码，找出其中的症结所在，并加以改进优化，创建一个"性/价比"俱佳的随机文件访问类bufferedrandomaccessfile。
在改进之前先做一个基本测试：逐字节copy一个12兆的文件（这里牵涉到读和写）。

读	写	耗用时间（秒）
randomaccessfile	randomaccessfile	95.848
bufferedinputstream + datainputstream	bufferedoutputstream + dataoutputstream	2.935

我们可以看到两者差距约32倍，randomaccessfile也太慢了。先看看两者关键部分的源代码，对比分析，找出原因。
1．1．[randomaccessfile]

public class randomaccessfile implements dataoutput, datainput {
 public final byte readbyte() throws ioexception {
  int ch = this.read();
  if (ch < 0)
   throw new eofexception();
  return (byte)(ch);
 }
 public native int read() throws ioexception;
 public final void writebyte(int v) throws ioexception {
  write(v);
 }
 public native void write(int b) throws ioexception;
}

可见，randomaccessfile每读/写一个字节就需对磁盘进行一次i/o操作。
1．2．[bufferedinputstream]

public class bufferedinputstream extends filterinputstream {
 private static int defaultbuffersize = 2048;
 protected byte buf[]; // 建立读缓存区
 public bufferedinputstream(inputstream in, int size) {
  super(in);       
  if (size <= 0) {
   throw new illegalargumentexception("buffer size <= 0");
  }
  buf = new byte[size];
 }
 public synchronized int read() throws ioexception {
  ensureopen();
  if (pos >= count) {
   fill();
   if (pos >= count)
    return -1;
  }
  return buf[pos++] & 0xff; // 直接从buf[]中读取
 }
 private void fill() throws ioexception {
 if (markpos < 0)
     pos = 0;  /* no mark: throw away the buffer */
 else if (pos >= buf.length) /* no room left in buffer */
     if (markpos > 0) { /* can throw away early part of the buffer */
  int sz = pos - markpos;
  system.arraycopy(buf, markpos, buf, 0, sz);
  pos = sz;
  markpos = 0;
     } else if (buf.length >= marklimit) {
  markpos = -1; /* buffer got too big, invalidate mark */
  pos = 0; /* drop buffer contents */
     } else {  /* grow buffer */
  int nsz = pos * 2;
  if (nsz > marklimit)
      nsz = marklimit;
  byte nbuf[] = new byte[nsz];
  system.arraycopy(buf, 0, nbuf, 0, pos);
  buf = nbuf;
     }
 count = pos;
 int n = in.read(buf, pos, buf.length - pos);
 if (n > 0)
     count = n + pos;
 }
}

1．3．[bufferedoutputstream]

public class bufferedoutputstream extends filteroutputstream {
   protected byte buf[]; // 建立写缓存区
   public bufferedoutputstream(outputstream out, int size) {
  super(out);
  if (size <= 0) {
   throw new illegalargumentexception("buffer size <= 0");
  }
  buf = new byte[size];
    }
public synchronized void write(int b) throws ioexception {
  if (count >= buf.length) {
      flushbuffer();
  }
  buf[count++] = (byte)b; // 直接从buf[]中读取
   }
   private void flushbuffer() throws ioexception {
  if (count > 0) {
   out.write(buf, 0, count);
   count = 0;
  }
   }
}

可见，buffered i/o putstream每读/写一个字节，若要操作的数据在buf中，就直接对内存的buf[]进行读/写操作；否则从磁盘相应位置填充buf[]，再直接对内存的buf[]进行读/写操作，绝大部分的读/写操作是对内存buf[]的操作。
1．3．小结
内存存取时间单位是纳秒级（10e-9），磁盘存取时间单位是毫秒级（10e-3）， 同样操作一次的开销，内存比磁盘快了百万倍。理论上可以预见，即使对内存操作上万次，花费的时间也远少对于磁盘一次i/o的开销。 显然后者是通过增加位于内存的buf存取，减少磁盘i/o的开销，提高存取效率的，当然这样也增加了buf控制部分的开销。从实际应用来看，存取效率提高了32倍。
根据1.3得出的结论，现试着对randomaccessfile类也加上缓冲读写机制。
随机访问类与顺序类不同，前者是通过实现datainput/dataoutput接口创建的，而后者是扩展filterinputstream/filteroutputstream创建的，不能直接照搬。
2．1．开辟缓冲区buf[默认：1024字节]，用作读/写的共用缓冲区。
2．2．先实现读缓冲。
读缓冲逻辑的基本原理：
a 欲读文件pos位置的一个字节。
b 查buf中是否存在？若有，直接从buf中读取，并返回该字符byte。
c 若没有，则buf重新定位到该pos所在的位置并把该位置附近的bufsize的字节的文件内容填充buffer，返回b。
以下给出关键部分代码及其说明：

public class bufferedrandomaccessfile extends randomaccessfile {
//  byte read(long pos)：读取当前文件pos位置所在的字节
//  bufstartpos、bufendpos代表buf映射在当前文件的首/尾偏移地址。
//  curpos指当前类文件指针的偏移地址。
    public byte read(long pos) throws ioexception {
        if (pos < this.bufstartpos || pos > this.bufendpos ) {
            this.flushbuf();
            this.seek(pos);
            if ((pos < this.bufstartpos) || (pos > this.bufendpos))
                throw new ioexception();
        }
        this.curpos = pos;
        return this.buf[(int)(pos - this.bufstartpos)];
    }
// void flushbuf()：bufdirty为真，把buf[]中尚未写入磁盘的数据，写入磁盘。
    private void flushbuf() throws ioexception {
        if (this.bufdirty == true) {
            if (super.getfilepointer() != this.bufstartpos) {
                super.seek(this.bufstartpos);
            }
            super.write(this.buf, 0, this.bufusedsize);
            this.bufdirty = false;
        }
    }
// void seek(long pos)：移动文件指针到pos位置，并把buf[]映射填充至pos
所在的文件块。
    public void seek(long pos) throws ioexception {
        if ((pos < this.bufstartpos) || (pos > this.bufendpos)) { // seek pos not in buf
            this.flushbuf();
            if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0))
{   // seek pos in file (file length > 0)
               this.bufstartpos =  pos * bufbitlen / bufbitlen;
                this.bufusedsize = this.fillbuf();
            } else if (((pos == 0) && (this.fileendpos == 0))
|| (pos == this.fileendpos + 1))
{   // seek pos is append pos
                this.bufstartpos = pos;
                this.bufusedsize = 0;
            }
            this.bufendpos = this.bufstartpos + this.bufsize - 1;
        }
        this.curpos = pos;
    }
// int fillbuf()：根据bufstartpos，填充buf[]。
    private int fillbuf() throws ioexception {
        super.seek(this.bufstartpos);
        this.bufdirty = false;
        return super.read(this.buf);
    }
}

至此缓冲读基本实现，逐字节copy一个12兆的文件（这里牵涉到读和写，用bufferedrandomaccessfile试一下读的速度）：

读	写	耗用时间（秒）
randomaccessfile	randomaccessfile	95.848
bufferedrandomaccessfile	bufferedoutputstream + dataoutputstream	2.813
bufferedinputstream + datainputstream	bufferedoutputstream + dataoutputstream	2.935

可见速度显著提高，与bufferedinputstream+datainputstream不相上下。
2．3．实现写缓冲。
写缓冲逻辑的基本原理：
a欲写文件pos位置的一个字节。
b 查buf中是否有该映射？若有，直接向buf中写入，并返回true。
c若没有，则buf重新定位到该pos所在的位置，并把该位置附近的 bufsize字节的文件内容填充buffer，返回b。
下面给出关键部分代码及其说明：

// boolean write(byte bw, long pos)：向当前文件pos位置写入字节bw。
// 根据pos的不同及buf的位置：存在修改、追加、buf中、buf外等情
况。在逻辑判断时，把最可能出现的情况，最先判断，这样可提高速度。
// fileendpos：指示当前文件的尾偏移地址，主要考虑到追加因素
    public boolean write(byte bw, long pos) throws ioexception {
        if ((pos >= this.bufstartpos) && (pos <= this.bufendpos)) {
// write pos in buf
            this.buf[(int)(pos - this.bufstartpos)] = bw;
            this.bufdirty = true;
            if (pos == this.fileendpos + 1) { // write pos is append pos
                this.fileendpos++;
                this.bufusedsize++;
            }
        } else { // write pos not in buf
            this.seek(pos);
            if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0))
{ // write pos is modify file
                this.buf[(int)(pos - this.bufstartpos)] = bw;
            } else if (((pos == 0) && (this.fileendpos == 0))
|| (pos == this.fileendpos + 1)) { // write pos is append pos
                this.buf[0] = bw;
                this.fileendpos++;
                this.bufusedsize = 1;
            } else {
                throw new indexoutofboundsexception();
            }
            this.bufdirty = true;
        }
        this.curpos = pos;
        return true;
    }

至此缓冲写基本实现，逐字节copy一个12兆的文件，（这里牵涉到读和写，结合缓冲读，用bufferedrandomaccessfile试一下读/写的速度）：

读	写	耗用时间（秒）
randomaccessfile	randomaccessfile	95.848
bufferedinputstream + datainputstream	bufferedoutputstream + dataoutputstream	2.935
bufferedrandomaccessfile	bufferedoutputstream + dataoutputstream	2.813
bufferedrandomaccessfile	bufferedrandomaccessfile	2.453

可见综合读/写速度已超越bufferedinput/outputstream+datainput/outputstream。
优化bufferedrandomaccessfile。
优化原则：
•调用频繁的语句最需要优化，且优化的效果最明显。
•多重嵌套逻辑判断时，最可能出现的判断，应放在最外层。
•减少不必要的new。
这里举一典型的例子：

public void seek(long pos) throws ioexception {
  ...
this.bufstartpos =  pos * bufbitlen / bufbitlen;
// bufbitlen指buf[]的位长，例：若bufsize=1024，则bufbitlen=10。
...
}

seek函数使用在各函数中，调用非常频繁，上面加重的这行语句根据pos和bufsize确定buf[]对应当前文件的映射位置，用"*"、"/"确定，显然不是一个好方法。
优化一：this.bufstartpos = (pos << bufbitlen) >> bufbitlen;
优化二：this.bufstartpos = pos & bufmask; // this.bufmask = ~((long)this.bufsize - 1);
两者效率都比原来好，但后者显然更好，因为前者需要两次移位运算、后者只需一次逻辑与运算（bufmask可以预先得出）。
至此优化基本实现，逐字节copy一个12兆的文件，（这里牵涉到读和写，结合缓冲读，用优化后bufferedrandomaccessfile试一下读/写的速度）：

读	写	耗用时间（秒）
randomaccessfile	randomaccessfile	95.848
bufferedinputstream + datainputstream	bufferedoutputstream + dataoutputstream	2.935
bufferedrandomaccessfile	bufferedoutputstream + dataoutputstream	2.813
bufferedrandomaccessfile	bufferedrandomaccessfile	2.453
bufferedrandomaccessfile优	bufferedrandomaccessfile优	2.197

可见优化尽管不明显，还是比未优化前快了一些，也许这种效果在老式机上会更明显。
以上比较的是顺序存取，即使是随机存取，在绝大多数情况下也不止一个byte，所以缓冲机制依然有效。而一般的顺序存取类要实现随机存取就不怎么容易了。
需要完善的地方
提供文件追加功能：

public boolean append(byte bw) throws ioexception {
        return this.write(bw, this.fileendpos + 1);
    }

提供文件当前位置修改功能：

public boolean write(byte bw) throws ioexception {
        return this.write(bw, this.curpos);
    }

返回文件长度（由于buf读写的原因，与原来的randomaccessfile类有所不同）：

public long length() throws ioexception {
        return this.max(this.fileendpos + 1, this.initfilelen);
    }

返回文件当前指针（由于是通过buf读写的原因，与原来的randomaccessfile类有所不同）：

public long getfilepointer() throws ioexception {
        return this.curpos;
    }

提供对当前位置的多个字节的缓冲写功能：

public void write(byte b[], int off, int len) throws ioexception {
        long writeendpos = this.curpos + len - 1;
        if (writeendpos <= this.bufendpos) { // b[] in cur buf
system.arraycopy(b, off, this.buf, (int)(this.curpos - this.bufstartpos),
len);
            this.bufdirty = true;
            this.bufusedsize = (int)(writeendpos - this.bufstartpos + 1);
        } else { // b[] not in cur buf
            super.seek(this.curpos);
            super.write(b, off, len);
        }
        if (writeendpos > this.fileendpos)
            this.fileendpos = writeendpos;
        this.seek(writeendpos+1);
}
    public void write(byte b[]) throws ioexception {
        this.write(b, 0, b.length);
    }

提供对当前位置的多个字节的缓冲读功能：

public int read(byte b[], int off, int len) throws ioexception {
long readendpos = this.curpos + len - 1;
   if (readendpos <= this.bufendpos && readendpos <= this.fileendpos ) {
// read in buf
      system.arraycopy(this.buf, (int)(this.curpos - this.bufstartpos),
b, off, len);
   } else { // read b[] size > buf[]
     if (readendpos > this.fileendpos) { // read b[] part in file
        len = (int)(this.length() - this.curpos + 1);
       }
       super.seek(this.curpos);
       len = super.read(b, off, len);
       readendpos = this.curpos + len - 1;
   }
       this.seek(readendpos + 1);
       return len;
}
   public int read(byte b[]) throws ioexception {
        return this.read(b, 0, b.length);
   }
public void setlength(long newlength) throws ioexception {
        if (newlength > 0) {
            this.fileendpos = newlength - 1;
        } else {
            this.fileendpos = 0;
        }
        super.setlength(newlength);
}

public void close() throws ioexception {
        this.flushbuf();
        super.close();
    }

至此完善工作基本完成，试一下新增的多字节读/写功能，通过同时读/写1024个字节，来copy一个12兆的文件，（这里牵涉到读和写，用完善后bufferedrandomaccessfile试一下读/写的速度）：

读	写	耗用时间（秒）
randomaccessfile	randomaccessfile	95.848
bufferedinputstream + datainputstream	bufferedoutputstream + dataoutputstream	2.935
bufferedrandomaccessfile	bufferedoutputstream + dataoutputstream	2.813
bufferedrandomaccessfile	bufferedrandomaccessfile	2.453
bufferedrandomaccessfile优	bufferedrandomaccessfile优	2.197
bufferedrandomaccessfile完	bufferedrandomaccessfile完	0.401

与jdk1.4新类mappedbytebuffer+randomaccessfile的对比？
jdk1.4提供了nio类 ，其中mappedbytebuffer类用于映射缓冲，也可以映射随机文件访问，可见java设计者也看到了randomaccessfile的问题，并加以改进。怎么通过mappedbytebuffer+randomaccessfile拷贝文件呢？下面就是测试程序的主要部分：

randomaccessfile rafi = new randomaccessfile(srcfile, "r");
   randomaccessfile rafo = new randomaccessfile(desfile, "rw");
 filechannel fci = rafi.getchannel();
filechannel fco = rafo.getchannel();
 long size = fci.size();
 mappedbytebuffer mbbi = fci.map(filechannel.mapmode.read_only, 0, size);
mappedbytebuffer mbbo = fco.map(filechannel.mapmode.read_write, 0, size);
long start = system.currenttimemillis();
for (int i = 0; i < size; i++) {
            byte b = mbbi.get(i);
            mbbo.put(i, b);
}
fcin.close();
fcout.close();
rafi.close();
rafo.close();
system.out.println("spend: "+(double)(system.currenttimemillis()-start) / 1000 + "s");

试一下jdk1.4的映射缓冲读/写功能，逐字节copy一个12兆的文件，（这里牵涉到读和写）：

读	写	耗用时间（秒）
randomaccessfile	randomaccessfile	95.848
bufferedinputstream + datainputstream	bufferedoutputstream + dataoutputstream	2.935
bufferedrandomaccessfile	bufferedoutputstream + dataoutputstream	2.813
bufferedrandomaccessfile	bufferedrandomaccessfile	2.453
bufferedrandomaccessfile优	bufferedrandomaccessfile优	2.197
bufferedrandomaccessfile完	bufferedrandomaccessfile完	0.401
mappedbytebuffer+ randomaccessfile	mappedbytebuffer+ randomaccessfile	1.209

确实不错，看来jdk1.4比1.3有了极大的进步。如果以后采用1.4版本开发软件时，需要对文件进行随机访问，建议采用mappedbytebuffer+randomaccessfile的方式。但鉴于目前采用jdk1.3及以前的版本开发的程序占绝大多数的实际情况，如果您开发的java程序使用了randomaccessfile类来随机访问文件，并因其性能不佳，而担心遭用户诟病，请试用本文所提供的bufferedrandomaccessfile类，不必推翻重写，只需import 本类，把所有的randomaccessfile改为bufferedrandomaccessfile，您的程序的性能将得到极大的提升，您所要做的就这么简单。
未来的考虑
读者可在此基础上建立多页缓存及缓存淘汰机制，以应付对随机访问强度大的应用。