Javacv使用ffmpeg实现音视频同步播放

最近用javacv的ffmpeg包的ffmpegframegrabber帧捕捉器对捕捉到的音频帧和视频帧做了同步的播放。采用的同步方法是视频向音频同步。

具体的思路如下：

(1)首先介绍ffmpeg是如何捕捉视频文件的图像和声音的

ffmpegframegrabber fg = new ffmpegframegrabber("a video file path or a url); 

得到帧捕捉器对象后，调用它的grab()方法就会返回捕捉到的frame对象。这个frame可以是视频帧或者是音频帧，这是因为音视频帧时按照时间戳在播放时间先上排列的。当然捕捉到的帧都是已经译码过的，并且存储在java.nio.buffer对象中，对于视频帧，buffer是储存图像的像素数据比如rgb，然后通过

bufferedimage bi = (new java2dframeconverter()).getbufferedimage(f); 

就可以得到图片，得到的图片可以进行一系列的处理或者不处理直接显示在swing组件上。对应音频帧，buffer是储存音频的pcm数据，这个pcm可以是float或者short的，然后用java.sounds.sample里面的sourcedataline.write方法就可以将这些音频pcm数据写入到扬声器中。

(2)接着介绍如何不断得将得到的帧播放出来。首先是单独播放视频:

while(true) 
{ 
  frame f = fg.grab();  
  if(f.image!=null) 
  label.seticon(new imageicon((new java2dframeconverter()).getbufferedimage(f))); 
  thread.sleep(1000/视频帧率);  
} 

单独播放音频同理，将数据写入到声卡即可。例子

(3)生产消费者模式。

上图是程序实现的方法，采用生产者模式将捕获到的帧进行判断，如果是视频帧就生产到视频fifo中，如果是音频帧就生产到音频fifo中，然后音频播放线程和视频播放线程分别从各自的帧仓库消费里面的帧。之所以采用生产消费者模式是因为帧捕获的速度是大于帧的消耗的，所以我们优先捕获帧来缓冲，或者进一步对捕获的帧进行预处理，而视频和音频播放线程只需要将处理过的帧直接播放显示即可。

(4)实现音视频同步的方法：播放两帧音频里面的所有视频帧。

想要实现音视频同步，必须要有帧的时间戳，这里捕获到的帧只有播放的时间戳pts，没有译码时间戳dts，所以我们只需要根据播放时间戳来决定播放即可。

程序的实现是根据上图来的， 当音频线程开始播放音频帧a1时，就调用视频线程的setrun方法，并且传递当前要播放的音频帧时间戳curtime和下一帧音频帧a2的时间戳nexttime给处于wait态的视频线程，然后视频线程启动，开始从视频fifo中取出视频帧g1，然后计算g1和a1的时间差，作为播放的延时，thread.sleep(t1)后，视频线程就将图片显示在swing组件上，比如jlabel.seticon(image)。然后视频线程再取出一帧图像g2，比较g2的时间戳和a2的时间戳，如果g2时间戳小于a2，那么视频线程继续延时t2以后，播放这个g2图像，接着g3同理，直到取得g4，和a2比较发现g4时间戳大于a2，那么视频线程就进入wait态，等待下一次启动。然后音频线程播放完a1音频帧以后，就从仓库取出音频帧a3，然后将a2的时间戳和a3的时间戳传递给视频线程，然后开始播放a2，然后堵塞的视频线程同理继续播放。

(5)动态调节延时时间

由于个人pc都不是实时操作系统，也就是thread.sleep是不精确的，并且受到声卡播放声音的制约，所以上面的基本实现思路是需要加以完善的。首先java的sourcedataline的方法是依照一定的速度从内部缓冲区取出音频线程写入的数据，如果音频写入的数据被取光了，那么音频播放就会发生卡顿，但是如果一次音频数据写入过多，那么就会发生音视频可能就会不同步，所以要确保sourcedataline的内部缓冲区是留有一定数据的，否则就会造成卡顿，但是数据量又不能过多，所以我们在g3到a2这段时间来进行声音播放的调节，由于延时的不精准性，写入的a1帧的数据可能时间还没满t6就可能被声卡取光了，所以在播放完g3图像以后，声音线程会判断根据sourcedataline.available()返回的数据量进行判断，如果数据量快要完了，就减少g3到a2的延时时间t4。这样子就可以保证数据量是不会变为0造成声音卡顿。

(6)下面是程序在window64下测试和ubuntu14下测试的结果图:  播放是比较流畅的，同步也是可以的，但是开着播放比企鹅在ide如idea中写代码的话，会卡，毕竟idea也是用java开发的，所以idea的运行会影响其他java程序，但是其他进程不会影响。

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。