利用电脑玩Android版“天天连萌”刷高分（一）——截图

这几周微信游戏“天天连萌”由于第一名总是被一个同学所占据（没办法，我等级不够高游戏细胞又没他好），总在想怎么超越。正好小志同学（http://xiaozhi6156.iteye.com/）发给我一篇帖子，然后我找到原文（http://blog.csdn.net/longteng1116/article/details/12360269），向作者请教了部分问题（该文章下面还有我的大量评论呢），再琢磨了几天，终于自己也实现了这样的一个程序，利用电脑来玩“天天连萌”刷关卡和分数。

对这个程序的思路是这样子的：
1.从手机里截图到电脑。
2.解析这张图，并将其转换为二维数组。
3.循环搜索可以消除的方块对应的两个元素
4.将元素的位置转换为屏幕的坐标，然后对手机进行模拟按键

以上也将我们的焦点聚集在以下四个问题上：
1、如何截图
2、如何进行图像识别，转换为数组
3、连连看搜索算法
4、如何进行模拟按键

下面分别来看这四个问题。

一、在PC端如何对Android手机截图

在电脑端进行Android截图的方法有多种。其中最快的应该是读取/dev/graphics/fb0，但是需要对手机先进行root。如果没有root的话，需要adb连接手机，然后执行adb shell进入android手机终端，将这个目录拷贝到sdcard，然后退出再执行adb pull，将该文件取出。
从网上得到的资料是，这个文件保存了5帧的framebuffer，只要读取出第一帧再进行处理就可以了。这个没试成功，而且这步骤略显麻烦，不适合在我的程序中应用。
上面是第一种方法。

第二种，使用adb  shell screencap -p命令。
使用以上命令可以将手机截屏并输出屏幕，但是adb shell在传输时会将结果里的LF转换为CR+LF，所以还需要将结果改一下。如果是linux用户，可以这样做：

adb shell screencap -p | sed 's/\r$//' > screen.png

即将每一行末的回车符替换掉，再输出到screen.png。
如果是windows用户，可以先截图保存到sdcard，再使用adb pull命令将其取出。命令如下：

adb shell /system/bin/screencap -p /sdcard/tmp.png
adb pull /sdcard/screen.png d:/tmp.png

使用ImageIO类里的API可以读取这里的png图片为BufferedImage对象，当然也可以将BufferedImage对象保存为图片文件。
由于在程序里需要不停地截图，计算，所以这种方法同样不适合用在程序里。

第三种，使用android sdk里的AndroidDebugBridge。
需要引入ddmlib.jar包。然后通过调用AndroidDebugBridge.init(boolean)方法进行初始化，再调用AndroidDebugBridge.createBridge(str, boolean)创建一个AndroidDebugBridge对象，再使用AndroidDebugBridge对象的getDevices()获取所有连接的设备。该方法返回的是IDevice数组，调用IDevice对象的getScreenshot()方法就可以进行截图了。
下面附近我根据网友提供的相关代码整理之后的代码：

/*
 * @(#)ScreenShot.java	       Project:lianmeng
 * Date-Time:2013-10-11 下午1:08:36
 *
 * Copyright (c) 2013 CFuture09, Institute of Software, 
 * Guangdong Ocean University, Zhanjiang, GuangDong, China.
 * All rights reserved.
 *
 * Licensed under the Apache License, Version 2.0 (the "License");
 *  you may not use this file except in compliance with the License.
 * You may obtain a copy of the License at
 *
 *     http://www.apache.org/licenses/LICENSE-2.0
 *
 * Unless required by applicable law or agreed to in writing, software
 * distributed under the License is distributed on an "AS IS" BASIS,
 * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
 * See the License for the specific language governing permissions and
 * limitations under the License.
 */
package pw.msdx.lianmengassistant;

import java.awt.image.BufferedImage;
import java.io.File;
import java.io.IOException;

import javax.imageio.ImageIO;

import com.android.ddmlib.AndroidDebugBridge;
import com.android.ddmlib.IDevice;
import com.android.ddmlib.RawImage;

/**
 * copy from http://bbs.csdn.net/topics/390502035. modify by Geek_Soledad
 */
public class AdbUtil {
	public static IDevice connect() {
		// init the lib
		// [try to] ensure ADB is running
		String adbLocation = System.getProperty("com.android.screenshot.bindir"); //$NON-NLS-1$
		if (adbLocation != null && adbLocation.length() != 0) {
			adbLocation += File.separator + "adb"; //$NON-NLS-1$
		} else {
			adbLocation = "adb"; //$NON-NLS-1$
		}

		AndroidDebugBridge.init(false /* debugger support */);

		AndroidDebugBridge bridge = AndroidDebugBridge
				.createBridge(adbLocation, true /* forceNewBridge */);

		// we can't just ask for the device list right away, as the internal
		// thread getting
		// them from ADB may not be done getting the first list.
		// Since we don't really want getDevices() to be blocking, we wait
		// here manually.
		int count = 0;
		while (bridge.hasInitialDeviceList() == false) {
			try {
				Thread.sleep(100);
				count++;
			} catch (InterruptedException e) {
				// pass
			}

			// let's not wait > 10 sec.
			if (count > 100) {
				System.err.println("Timeout getting device list!");
				return null;
			}
		}

		// now get the devices
		IDevice[] devices = bridge.getDevices();

		if (devices.length == 0) {
			System.out.println("No devices found!");
			return null;
		}

		return devices[0];
	}

	public static BufferedImage screenShot(IDevice device) {
		RawImage rawImage;
		try {
			rawImage = device.getScreenshot();
		} catch (Exception ioe) {
			System.out.println("Unable to get frame buffer: " + ioe.getMessage());
			return null;
		}

		// device/adb not available?
		if (rawImage == null)
			return null;

		// convert raw data to an Image
		BufferedImage image = new BufferedImage(rawImage.width, rawImage.height,
				BufferedImage.TYPE_INT_ARGB);

		int index = 0;
		int IndexInc = rawImage.bpp >> 3;
		for (int y = 0; y < rawImage.height; y++) {
			for (int x = 0; x < rawImage.width; x++) {
				int value = rawImage.getARGB(index);
				index += IndexInc;
				image.setRGB(x, y, value);
			}
		}
		return image;
	}

	/**
	 * Grab an image from an ADB-connected device.
	 */
	public static boolean screenShotAndSave(IDevice device, String filepath) throws IOException {
		boolean result = ImageIO.write(screenShot(device), "png", new File(filepath));
		if (result) {
			System.out.println("file is saved in:" + filepath);
		}
		return result;
	}

	public static void terminate() {
		AndroidDebugBridge.terminate();
	}
}

最后说下第四种方法。这个是我在做模拟触摸的时候看到的，也是我目前采用的做法。我在做模拟触摸这一部分，用的是chimpchat.jar包里的api（为什么没用monkeyrunner.jar包里的api，具体原因后面会提到）。这里获取的是IChimpDevice对象，它也有截图的方法，即takeSnapshot()方法，返回的是IChimpImage对象，再调用IChimpImage对象的getBufferedImage()方法即可得到屏幕截图的BufferedImage对象。
代码如下：

	private IChimpDevice mChimpDevice;
	private AdbBackend adbBack;

	public Robot() {
		mImgHash = new ImageHash();
		adbBack = new AdbBackend();
		mChimpDevice = adbBack.waitForConnection();
	}

	/**
	 * 截图
	 */
	public BufferedImage snapshot() {
		IChimpImage img;
		// 这里用一个while循环是有时截图时会抛出超时异常，导致返回的是null对象。
		do {
			img = mChimpDevice.takeSnapshot();
		} while (img == null);
		return img.getBufferedImage();
	}

使用这种方法，截取一张图在我手机上测试，大概是1200ms左右。读取/dev/graphics/fb0文件截图，据说一秒可以截5、6张，但如果通过java来调用的话，略显蛋疼，故不用。
需要注意的是，上面对我手机的截屏，图像是竖直的，而不是水平的。
接下来是将图片转换为2维数组，用到了一个图像识别算法，这些内容将在下一节续述。