Android PC投屏简单尝试—最终章1

回顾之前的几遍文章,我们分别通过RMTP协议和简单的Socket 发送Bitmap图片的Base64编码来完成投屏。
回想这系列文章的想法来源-Vysor,它通过 USB来进行连接的。又看到了 scrcpy项目。
于是有了这个系列的最终章-仿scrcpy(Vysor)
ps:其实就是对着scrcpy的源码撸了一遍。

效果预览

简单的录制效果.gif

源码地址:https://github.com/deepsadness/AppRemote

内容目录

包括的内容有

  1. 通过USB连接和adb进行手机通信
  2. 在Android端发送录制屏幕的H264 Naul
  3. 使用SDL2和FFmpeg,编写能够在PC(Windows,Mac)上运行的投屏界面

1. USB Socket连接

  • 熟悉adb foward 和 adb reverse 命令
    由于Android版本低于5.0版本不支持adb reverse
adb forward.png
 forward --list           list all forward socket connections
 forward [--no-rebind] LOCAL REMOTE
     forward socket connection using:
       tcp:<port> (<local> may be "tcp:0" to pick any open port)
       localabstract:<unix domain socket name>
       localreserved:<unix domain socket name>
       localfilesystem:<unix domain socket name>
       dev:<character device name>
       jdwp:<process pid> (remote only)
 forward --remove LOCAL   remove specific forward socket connection
 forward --remove-all     remove all forward socket connections

这个命令的意思是 将PC上的端口(LOCAL) 转发到 Android手机上(REMOTE) 。
这样的话,我们就可以在Android段建立Server,监听我们的REMOTE,而PC端可以通过连接连接这个LOCAL,就可以成功的建立Socket连接。
还可以注意到,我们使用的LOCALREMOTE除了可以使用 TCP的端口的形式,还可以使用 UNIX Domain Socket IPC协议 。

通常我们可以使用
adb forward tcp:8888 tcp:8888来监听两端的端口。
下面是简单的调试代码

调试代码

下面通过两种方式来进行通信

使用 tcp port的方式

  • 命令行
    adb forward tcp:8888 tcp:8888
  • socket Server(android 端)
public class PortServer {
    public static void start() {
        new Thread(new Runnable() {
            @Override
            public void run() {
                //可以直接使用抽象的名字作为socket的名称
                ServerSocket serverSocket = null;
                try {
                    serverSocket = new ServerSocket(8888);
                    //blocking
                    Socket accept = serverSocket.accept();
                    Log.d("ZZX", "serverSocket 链接成功");
                    while (true) {
                        if (!accept.isConnected()) {
                            return;
                        }
                        InputStream inputStream = accept.getInputStream();
                        String result = IO.streamToString(inputStream);
                        Log.d("ZZX", "serverSocket recv =" + result);
                    }
                } catch (IOException e) {
                    e.printStackTrace();
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
        }).start();
    }
}
  • socket client 端
    java 版本
private static void socket() {
        //开启socket clinet
        Socket clinet = new Socket();
        //用adb转发端口到8888
        try {
            //blocking
            clinet.connect(new InetSocketAddress("127.0.0.1", 8888));
            System.out.println("连接成功!!");
            OutputStream outputStream = clinet.getOutputStream();
            outputStream.write("Hello World".getBytes());
            outputStream.flush();
            outputStream.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
    }

使用 localabstract 的方式

  • 命令行
    adb forward tcp:8888 localabstract: local

需要修改的只有Server 端。因为我们将服务端(Android端)改成了localabstract的方式。

  • android
public class LocalServer {
    public static void start() {
        new Thread(new Runnable() {
            @Override
            public void run() {
                //可以直接使用抽象的名字作为socket的名称
                LocalServerSocket serverSocket = null;
                try {
                    serverSocket = new LocalServerSocket("local");
                    //blocking
                    LocalSocket client = serverSocket.accept();
                    Log.d("ZZX", "serverSocket 链接成功");
                    while (true) {
                        if (!client.isConnected()) {
                            return;
                        }
                        InputStream inputStream = client.getInputStream();
                        String result = IO.streamToString(inputStream);
                        Log.d("ZZX", "serverSocket recv =" + result);

                    }

                } catch (IOException e) {
                    e.printStackTrace();
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
        }).start();
    }
}

这样我们就通过ADB协议和USB 建立了手机和PC端的通信。之后我们就可以通过这里建立的socket,进行数据传递。

2. 在Android上运行后台程序

我们期望运行一个后台的程序,PC端开启之后,就开始给我们发送截屏的数据。
这里涉及了几个问题。
第一个是在之前的文章中,我们知道,我们需要进行屏幕的截屏,需要申请对应的权限。
第二个是,如何直接在Android上运行我们写好的java程序,还不是用Activity的方式来运行。

使用app_process 运行程序

这个命令完美的满足了我们的需求。
它不但可以在后台直接运行dex中的java文件,还具有较高的权限!!!

调试代码

我们先来写一个简单的类试一下

  • 编写一个简单的java文件
public class HelloWorld {
    public static void main(String... args) {
        System.out.println("Hello, world!");
    }
}
  • 将其编译成dex文件
javac -source 1.7 -target 1.7 HelloWorld.java
"$ANDROID_HOME"/build-tools/27.0.2/dx \
    --dex --output classes.dex HelloWorld.class
  • 推送到设备上并执行它
adb push classes.dex /data/local/tmp/
$ adb shell CLASSPATH=/data/local/tmp/classes.dex app_process / HelloWorld

这样我们就运行成功了~~

这里需要注意的是app_process 只能执行dex文件

  • adb_forward
task adb_forward() {
    doLast {
        println "adb_forward"
        def cmd = "adb forward --list"
        ProcessBuilder builder = new ProcessBuilder(cmd.split(" "))
        Process adbpb = builder.start()
        if (adbpb.waitFor() == 0) {
            def result = adbpb.inputStream.text
            println result.length()
            if (result.length() <= 1) {
                def forward_recorder = "adb forward tcp:9000 localabstract:recorder"
                ProcessBuilder forward_pb = new ProcessBuilder(forward_recorder.split(" "))
                Process forward_ps = forward_pb.start()
                if (forward_ps.waitFor() == 0) {
                    println "forward success!!"
                }
            } else {
                println result
            }
        } else {
            println "error = " + adbpb.errorStream.text
        }
    }
}

在AndroidStudio中编译

上面我体验了简单的通过命令行的形式来编译。实际上,我们的开发都是在AndroidStudio中的。而且它为我们提供了一个很好的编译环境。不需要在手动去敲入这些代码。
我们只需要通过自定义Gradle Task就可以简单的完成这个任务。

  • 单纯复制dex文件
    因为运行的是dex文件,所以我们直接复制dex文件就行了。
    这个任务必须依赖于assembleDebug任务。因为只有这个任务执行完,才会有这些dex文件。
//将dex文件复制。通过dependsOn来制定依赖关系
//因为是设定了type是gradle中已经实现了Copy,所以直接配置它的属性
task class_cls(type: Copy, dependsOn: "assembleDebug") {
    from "build/intermediates/transforms/dexMerger/debug/0/"
    destinationDir = file('build/libs')
}
  • 压缩成jar
    如果不直接使用dex的话,也可以压缩成jar的形式。其实和上面直接使用dex的方式没差。就看你自己喜欢了。
//将编译好的dex文件压缩成jar.
task classex_jar(type: Jar, dependsOn: "assembleDebug") {
    from "build/intermediates/transforms/dexMerger/debug/0/"
    destinationDir = file('build/libs')
    archiveName 'class.jar'
}
  • 直接将编译好的结果,push到手机上
    这里再写一个push的task,并把将其依赖于classex_jar任务。这样运行它时,会先去运行我们依赖的classex_jar为我们打包。
//将编译好的push到手机上
//这里,因为是自己定义的项目类型。要把执行的代码,写在Action内
//直接跟在后面的这个闭包,是在项目配置阶段运行的
task adb_push(dependsOn: "classex_jar") {
   //doLast是定义个Action。Action是在task运行阶段运行的
   doLast {
       File file = new File("./app/build/libs/class.jar")
       def jarDir = file.getAbsolutePath()
       def cmd = "adb push $jarDir /data/local/tmp"
       ProcessBuilder builder = new ProcessBuilder(cmd.split(" "))
       Process push = builder.start()
       if (push.waitFor() == 0) {
       println "result = " + push.inputStream.text
       } else {
       println "error = " + push.errorStream.text
       }
   }
}
  • 直接在项目里运行调试
    我们也可以直接在项目将调试的代码运行起来。
//直接运行,查看结果
task adb_exc(dependsOn: "adb_push") {
   //相当于制定了一个Action,在这个任务的最后执行
   doLast {
       println "adb_exc"
       def cmd = "adb shell CLASSPATH=/data/local/tmp/class.jar app_process /data/local/tmp com.cry.cry.appprocessdemo.HelloWorld"
       ProcessBuilder builder = new ProcessBuilder(cmd.split(" "))
       Process adbpb = builder.start()
       println "start adb "
       if (adbpb.waitFor() == 0) {
           println "result = " + adbpb.inputStream.text
       } else {
           println "error = " + adbpb.errorStream.text
       }
   }
}

运行结果


运行任务.png
基于gradle任务快速调试.png

这样,就把我们就可以在AndroidStudio中快速的运行调试我们的代码了~~

3. 通过Android程序,获取设备的信息和录制数据

3.1 获取设备信息

  • 获取ServiceManager
    我们平时通过Context中暴露的getService方法。来调用对应的Service 来获取设备信息的。
    因为我们是后台运行的程序,没有对应的Context。那我们要怎么办?
    我们知道Android的系统架构中,其实所有的getService方法,最后都是落实在ServerManager这个代理类中,去获取Service ManagerService中对应的真实注册的Service的远程代理对象。
    所以这里,我们就通过反射,来创建ServiceManager,同时通过它,来获取我们需要的Service的远程代理对象。
@SuppressLint("PrivateApi")
public final class ServiceManager {

    private final Method getServiceMethod;
    private DisplayManager displayManager;
    private PowerManager powerManager;
    private InputManager inputManager;

    public ServiceManager() {
        try {
            getServiceMethod = Class.forName("android.os.ServiceManager").getDeclaredMethod("getService", String.class);
        } catch (Exception e) {
            e.printStackTrace();
            throw new AssertionError(e);
        }
    }

    private IInterface getService(String service, String type) {
        try {
            IBinder binder = (IBinder) getServiceMethod.invoke(null, service);
            Method asInterface = Class.forName(type + "$Stub").getMethod("asInterface", IBinder.class);
            return (IInterface) asInterface.invoke(null, binder);
        } catch (Exception e) {
            e.printStackTrace();
            throw new AssertionError(e);
        }

    }

    public DisplayManager getDisplayManager() {
        if (displayManager == null) {
            IInterface service = getService(Context.DISPLAY_SERVICE, "android.hardware.display.IDisplayManager");
            displayManager = new DisplayManager(service);
        }
        return displayManager;
    }

    public PowerManager getPowerManager() {
        if (powerManager == null) {
            IInterface service = getService(Context.POWER_SERVICE, "android.os.IPowerManager");
            powerManager = new PowerManager(service);
        }
        return powerManager;
    }

    public InputManager getInputManager() {
        if (inputManager == null) {
            IInterface service = getService(Context.INPUT_SERVICE, "android.hardware.input.IInputManager");
            inputManager = new InputManager(service);
        }
        return inputManager;
    }

}

通过getService方法,获取BINDER对象之后,在通过对应的实现类的StubasInterface方法,转成对应的远程代理类。

  • 获取屏幕信息
    接下来,我们通过得到的远程代理对象,就可以调用方法了
public class DisplayManager {
    /**
     * 这个service 对应 final class BinderService extends IDisplayManager.Stub
     */
    private final IInterface service;

    public DisplayManager(IInterface service) {
        this.service = service;
    }

    public DisplayInfo getDisplayInfo() {
        try {
            Object displayInfo = service.getClass().getMethod("getDisplayInfo", int.class)
                    .invoke(service, 0);
            Class<?> cls = displayInfo.getClass();
            // width and height already take the rotation into account
            int width = cls.getDeclaredField("logicalWidth").getInt(displayInfo);
            int height = cls.getDeclaredField("logicalHeight").getInt(displayInfo);
            int rotation = cls.getDeclaredField("rotation").getInt(displayInfo);
            return new DisplayInfo(new Size(width, height), rotation);
        } catch (Exception e) {
            e.printStackTrace();
            throw new AssertionError(e);
        }
    }

    /*
    这方法是在DisplayManager里面有,但是DisplayManagerService内,没有。所以没法调用

    public DisplayInfo getDisplay() {
        try {
            Object display = service.getClass().getMethod("getDisplay", int.class)
                    .invoke(service, 0);
            Point point = new Point();
            Method getSize = display.getClass().getMethod("getSize", Point.class);
            Method getRotation = display.getClass().getMethod("getRotation");
            getSize.invoke(display, point);
            int rotation = (int) getRotation.invoke(display);
            return new DisplayInfo(new Size(point.x, point.y), rotation);
        } catch (Exception e) {
            e.printStackTrace();
            throw new AssertionError(e);
        }
    }
      */
}

3.2 进行屏幕录制

前几遍文章,我们都是通过MediaProjection来完成我们的屏幕录制的。
因为截屏需要MediaProjection这个类。它实际上是一个Serivce

//在Activity中是通过这样的方式,来获取VirtualDisplay的
        MediaProjectionManager systemService = (MediaProjectionManager) getSystemService(MEDIA_PROJECTION_SERVICE);
        MediaProjection mediaProjection = systemService.getMediaProjection();
        mediaProjection.createVirtualDisplay("activity-request", widht, height, 1, DisplayManager.VIRTUAL_DISPLAY_FLAG_PUBLIC, surface, null, null);

在Activity中实际上的代码是这样的。通过MediaProjectionManager来获取一个MediaProjection。然后根据我们的surface来创建一个virtualDisplay
整个步骤中,需要context来获取MediaProjectionManager ,还需要用户授权之后,才能创建VirtualDisplay

然而,我们这里既不可能让用户授权,也没有Context,要怎么办呢?

SurfaceControl

我们可以参考 adb screenrecord 命令项目中 的 ScreenRecord的操作

/*
 * Configures the virtual display.  When this completes, virtual display
 * frames will start arriving from the buffer producer.
 */
static status_t prepareVirtualDisplay(const DisplayInfo& mainDpyInfo,
        const sp<IGraphicBufferProducer>& bufferProducer,
        sp<IBinder>* pDisplayHandle) {
    sp<IBinder> dpy = SurfaceComposerClient::createDisplay(
            String8("ScreenRecorder"), false /*secure*/);

    SurfaceComposerClient::Transaction t;
    t.setDisplaySurface(dpy, bufferProducer);
    setDisplayProjection(t, dpy, mainDpyInfo);
    t.setDisplayLayerStack(dpy, 0);    // default stack
    t.apply();

    *pDisplayHandle = dpy;

    return NO_ERROR;
}

Native中的SurfaceComposerClient在Java层中,对应的就是SurfaceControl。
我们只要同样按照这样的方式调用SurfaceControl就可以了。

  • 获取SurfaceControl
    同样可以通过反射的方式来进行获取
@SuppressLint("PrivateApi")
public class SurfaceControl {
    private static final Class<?> CLASS;

    static {
        try {
            CLASS = Class.forName("android.view.SurfaceControl");
        } catch (ClassNotFoundException e) {
            throw new AssertionError(e);
        }
    }

    private SurfaceControl() {
        // only static methods
    }

    public static void openTransaction() {
        try {
            CLASS.getMethod("openTransaction").invoke(null);
        } catch (Exception e) {
            throw new AssertionError(e);
        }
    }

    public static void closeTransaction() {
        try {
            CLASS.getMethod("closeTransaction").invoke(null);
        } catch (Exception e) {
            throw new AssertionError(e);
        }
    }

    public static void setDisplayProjection(IBinder displayToken, int orientation, Rect layerStackRect, Rect displayRect) {
        try {
            CLASS.getMethod("setDisplayProjection", IBinder.class, int.class, Rect.class, Rect.class)
                    .invoke(null, displayToken, orientation, layerStackRect, displayRect);
        } catch (Exception e) {
            throw new AssertionError(e);
        }
    }

    public static void setDisplayLayerStack(IBinder displayToken, int layerStack) {
        try {
            CLASS.getMethod("setDisplayLayerStack", IBinder.class, int.class).invoke(null, displayToken, layerStack);
        } catch (Exception e) {
            throw new AssertionError(e);
        }
    }

    public static void setDisplaySurface(IBinder displayToken, Surface surface) {
        try {
            CLASS.getMethod("setDisplaySurface", IBinder.class, Surface.class).invoke(null, displayToken, surface);
        } catch (Exception e) {
            throw new AssertionError(e);
        }
    }

    public static IBinder createDisplay(String name, boolean secure) {
        try {
            return (IBinder) CLASS.getMethod("createDisplay", String.class, boolean.class).invoke(null, name, secure);
        } catch (Exception e) {
            throw new AssertionError(e);
        }
    }

    public static void destroyDisplay(IBinder displayToken) {
        try {
            CLASS.getMethod("destroyDisplay", IBinder.class).invoke(null, displayToken);
        } catch (Exception e) {
            e.printStackTrace();
            throw new AssertionError(e);
        }
    }
}
  • 调用录屏
public void streamScreen(){ 
IBinder display = createDisplay();
//...
setDisplaySurface(display, surface, contentRect, videoRect);
} 
private static IBinder createDisplay() {
        return SurfaceControl.createDisplay("scrcpy", false);
    }
private static void setDisplaySurface(IBinder display, Surface surface, Rect deviceRect, Rect displayRect) {
        SurfaceControl.openTransaction();
        try {
            SurfaceControl.setDisplaySurface(display, surface);
            SurfaceControl.setDisplayProjection(display, 0, deviceRect, displayRect);
            SurfaceControl.setDisplayLayerStack(display, 0);
        } finally {
            SurfaceControl.closeTransaction();
        }
    }
  • 进行录制的代码
    其实我们已经经历过很多很多次了。
    将录制的数据输入MediaCodec的Surface中。然后就可以得到编码之后的的数据了。
    再将这个数据通过socket发送
package com.cry.cry.appprocessdemo;

import android.graphics.Rect;
import android.media.MediaCodec;
import android.media.MediaCodecInfo;
import android.media.MediaFormat;
import android.os.IBinder;
import android.view.Surface;

import com.cry.cry.appprocessdemo.refect.SurfaceControl;

import java.io.FileDescriptor;
import java.io.IOException;
import java.nio.ByteBuffer;

public class ScreenRecorder {
    private static final int DEFAULT_FRAME_RATE = 60; // fps
    private static final int DEFAULT_I_FRAME_INTERVAL = 10; // seconds
    private static final int DEFAULT_BIT_RATE = 8000000; // 8Mbps
    private static final int DEFAULT_TIME_OUT = 2 * 1000; // 2s

    private static final int REPEAT_FRAME_DELAY = 6; // repeat after 6 frames
    private static final int MICROSECONDS_IN_ONE_SECOND = 1_000_000;
    private static final int NO_PTS = -1;

    private boolean sendFrameMeta = false;

    private final ByteBuffer headerBuffer = ByteBuffer.allocate(12);
    private long ptsOrigin;

    private volatile boolean stop;
    private MediaCodec encoder;

    public void setStop(boolean stop) {
        this.stop = stop;
//        encoder.signalEndOfInputStream();
    }

    //进行录制的循环,录制得到的数据,都写到fd当中
    public void record(int width, int height, FileDescriptor fd) {
        //对MediaCodec进行配置
        boolean alive;
        try {
            do {
                MediaFormat mediaFormat = createMediaFormat(DEFAULT_BIT_RATE, DEFAULT_FRAME_RATE, DEFAULT_I_FRAME_INTERVAL);
                mediaFormat.setInteger(MediaFormat.KEY_WIDTH, width);
                mediaFormat.setInteger(MediaFormat.KEY_HEIGHT, height);
                encoder = MediaCodec.createEncoderByType(MediaFormat.MIMETYPE_VIDEO_AVC);
                //输入输出的surface 这里是没有
                encoder.configure(mediaFormat, null, null, MediaCodec.CONFIGURE_FLAG_ENCODE);
                Surface inputSurface = encoder.createInputSurface();
                IBinder surfaceClient = setDisplaySurface(width, height, inputSurface);
                encoder.start();
                try {
                    alive = encode(encoder, fd);
                    alive = alive && !stop;
                    System.out.println("alive =" + alive + ", stop=" + stop);
                } finally {
                    System.out.println("encoder.stop");
                    //为什么调用stop会block主呢?
//                    encoder.stop();
                    System.out.println("destroyDisplaySurface");
                    destroyDisplaySurface(surfaceClient);
                    System.out.println("encoder release");
                    encoder.release();
                    System.out.println("inputSurface release");
                    inputSurface.release();
                    System.out.println("end");
                }
            } while (alive);
        } catch (IOException e) {
            e.printStackTrace();
        }
        System.out.println("end record");
    }

    //创建录制的Surface
    private IBinder setDisplaySurface(int width, int height, Surface inputSurface) {
        Rect deviceRect = new Rect(0, 0, width, height);
        Rect displayRect = new Rect(0, 0, width, height);
        IBinder surfaceClient = SurfaceControl.createDisplay("recorder", false);
        //设置和配置截屏的Surface
        SurfaceControl.openTransaction();
        try {
            SurfaceControl.setDisplaySurface(surfaceClient, inputSurface);
            SurfaceControl.setDisplayProjection(surfaceClient, 0, deviceRect, displayRect);
            SurfaceControl.setDisplayLayerStack(surfaceClient, 0);
        } finally {
            SurfaceControl.closeTransaction();
        }
        return surfaceClient;
    }

    private void destroyDisplaySurface(IBinder surfaceClient) {
        SurfaceControl.destroyDisplay(surfaceClient);
    }

    //创建MediaFormat
    private MediaFormat createMediaFormat(int bitRate, int frameRate, int iFrameInterval) {
        MediaFormat mediaFormat = new MediaFormat();
        mediaFormat.setString(MediaFormat.KEY_MIME, MediaFormat.MIMETYPE_VIDEO_AVC);
        mediaFormat.setInteger(MediaFormat.KEY_BIT_RATE, bitRate);
        mediaFormat.setInteger(MediaFormat.KEY_FRAME_RATE, frameRate);
        mediaFormat.setInteger(MediaFormat.KEY_COLOR_FORMAT, MediaCodecInfo.CodecCapabilities.COLOR_FormatSurface);
        mediaFormat.setInteger(MediaFormat.KEY_I_FRAME_INTERVAL, iFrameInterval);
        mediaFormat.setLong(MediaFormat.KEY_REPEAT_PREVIOUS_FRAME_AFTER, MICROSECONDS_IN_ONE_SECOND * REPEAT_FRAME_DELAY / frameRate);//us
        return mediaFormat;
    }

    //进行encode
    private boolean encode(MediaCodec codec, FileDescriptor fd) throws IOException {
        System.out.println("encode");
        boolean eof = false;
        MediaCodec.BufferInfo bufferInfo = new MediaCodec.BufferInfo();
        while (!eof) {
            System.out.println("dequeueOutputBuffer outputBufferId before");

            int outputBufferId = codec.dequeueOutputBuffer(bufferInfo, DEFAULT_TIME_OUT);
            System.out.println("dequeueOutputBuffer outputBufferId =" + outputBufferId);
            eof = (bufferInfo.flags & MediaCodec.BUFFER_FLAG_END_OF_STREAM) != 0;
            System.out.println("encode eof =" + eof);
            try {
//                if (consumeRotationChange()) {
//                    // must restart encoding with new size
//                    break;
//                }
                if (stop) {
                    // must restart encoding with new size
                    break;
                }
                //将得到的数据,都发送给fd
                if (outputBufferId >= 0) {
                    ByteBuffer codecBuffer = codec.getOutputBuffer(outputBufferId);
                    System.out.println("dequeueOutputBuffer getOutputBuffer");
                    if (sendFrameMeta) {
                        writeFrameMeta(fd, bufferInfo, codecBuffer.remaining());
                    }
                    IO.writeFully(fd, codecBuffer);
                    System.out.println("writeFully");
                }
            } finally {
                if (outputBufferId >= 0) {
                    codec.releaseOutputBuffer(outputBufferId, false);
                    System.out.println("releaseOutputBuffer");
                }
            }
        }
        return !eof;
    }

    private void writeFrameMeta(FileDescriptor fd, MediaCodec.BufferInfo bufferInfo, int packetSize) throws IOException {
        headerBuffer.clear();

        long pts;
        if ((bufferInfo.flags & MediaCodec.BUFFER_FLAG_CODEC_CONFIG) != 0) {
            pts = NO_PTS; // non-media data packet
        } else {
            if (ptsOrigin == 0) {
                ptsOrigin = bufferInfo.presentationTimeUs;
            }
            pts = bufferInfo.presentationTimeUs - ptsOrigin;
        }

        headerBuffer.putLong(pts);
        headerBuffer.putInt(packetSize);
        headerBuffer.flip();
        IO.writeFully(fd, headerBuffer);
    }
}
  • socket发送
    调用了Os.write方法进行发送。
 public static void writeFully(FileDescriptor fd, ByteBuffer from) throws IOException {
        // ByteBuffer position is not updated as expected by Os.write() on old Android versions, so
        // count the remaining bytes manually.
        // See <https://github.com/Genymobile/scrcpy/issues/291>.
        int remaining = from.remaining();
        while (remaining > 0) {
            try {
                int w = Os.write(fd, from);
                if (BuildConfig.DEBUG && w < 0) {
                    // w should not be negative, since an exception is thrown on error
                    System.out.println("Os.write() returned a negative value (" + w + ")");
                    throw new AssertionError("Os.write() returned a negative value (" + w + ")");
                }
                remaining -= w;
            } catch (ErrnoException e) {
                e.printStackTrace();
                if (e.errno != OsConstants.EINTR) {
                    throw new IOException(e);
                }
            }
        }
    }

4. PC端建立Socket Client,接受数据。并将数据显示出来

4.1 建立Socket.

//创建Socket
    client = socket(PF_INET, SOCK_STREAM, 0);
    if (!client) {
        perror("can not create socket!!");
        return -1;
    }

    struct sockaddr_in in_addr;
    memset(&in_addr, 0, sizeof(sockaddr_in));

    in_addr.sin_port = htons(9000);
    in_addr.sin_family = AF_INET;
    in_addr.sin_addr.s_addr = inet_addr("127.0.0.1");
    int ret = connect(client, (struct sockaddr *) &in_addr, sizeof(struct sockaddr));
    if (ret < 0) {
        perror("socket connect error!!\\n");
        return -1;
    }

    printf("连接成功\n");

因为我们将PC的端口的9000转发到Android的Server上,所以我们只要去连接本地的9000端口,就相当于和Android上的Server建立了连接。

4.2 FFmepg解码和SDL2显示

在前面的其他系列文章中,对SDL2和FFmepg都进行过了介绍。而且还对ffplay的源码进行了分析。这里基本上和ffplay 的视频播放功能一样。只是我们没有传输音频数据。

FFmepg解码

这里和之前的FFmpeg解码不同的是,

  • 从内存中读取数据
    我们不是通过一个url来获取数据,而是通过socket的读取内存来进行读取数据。
    所以我们需要自己来构造这个 AVIOContext 并把它给AVFormat
//通过这个方法,来进行socket的内存读取
int read_socket_buffer(void *opaque, uint8_t *buf, int buf_size) {
    int count = recv(client, buf, buf_size, 0);
    if (count == 0) {
        return -1;
    }
    return count;
}

play(){
 avformat_network_init();
    AVFormatContext *format_ctx = avformat_alloc_context();
    unsigned char *buffer = static_cast<unsigned char *>(av_malloc(BUF_SIZE));
    //通过avio_alloc_context传入内存读取的地址和方法。
    AVIOContext *avio_ctx = avio_alloc_context(buffer, BUF_SIZE, 0, NULL, read_socket_buffer, NULL, NULL);
    //在给format_ctx 对象
    format_ctx->pb = avio_ctx;

    //最后在通过相同的方法打开
     ret = avformat_open_input(&format_ctx, NULL, NULL, NULL);
    if (ret < 0) {
        printf("avformat_open_input error:%s\n", av_err2str(ret));
        return -1;
    }
//...
}
  • 不使用avformat_find_stream_info
    因为直接发送了H264 的naul,而且没有每次都发送媒体数据,所以当我们使用avformat_find_stream_info时,会一直阻塞,获取不到。
    所以这里只需要直接创建解码器,进行read_frame就可以了~~
AVCodec *codec = avcodec_find_decoder(AV_CODEC_ID_H264);
    if (!codec) {
        printf("Did not find a video codec \n");
        return -1;
    }
    AVCodecContext *codec_ctx = avcodec_alloc_context3(codec);
    if (!codec_ctx) {
        printf("Did not alloc AVCodecContext \n");
        return -1;
    }
//    avcodec_parameters_to_context(codec_ctx, video_stream->codecpar);
//    width=1080, height=1920
    //这里的解码器的长宽,只有在read_frame 之后,才能正确获取。我们这里就先死。
    // 最后的项目,应该是先通过Android发送屏幕数据过来的。
    codec_ctx->width = 1080 / 2;
    codec_ctx->width = 720 / 2;
    codec_ctx->height = 1920 / 2;
    codec_ctx->height = 1280 / 2;

    ret = avcodec_open2(codec_ctx, codec, NULL);
    if (ret < 0) {
        printf("avcodec_open2 error:%s\n", av_err2str(ret));
        return -1;
    }
    printf("成功打开编码器\n");
SDL2显示

我们将解码后的数据,送入编码器进行显示就可以了

  • 创建SDLScreen
    //创建SDLScreen.
    SDL_Screen *sc = new SDL_Screen("memory", codec_ctx->width, codec_ctx->height);
    ret = sc->init();
    if (ret < 0) {
        printf("SDL_Screen init error\n");
        return -1;
    }

这里需要注意,其实这里的屏幕尺寸也是需要通过计算的。这里就简单写死了。

  • 简单的编码循环后,送入显示
    AVFrame *pFrame = av_frame_alloc();
    //对比使用av_init_packet 它必须已经为packet初始化好了内存,只是设置默认值。
    AVPacket *packet = av_packet_alloc();
    while (av_read_frame(format_ctx, packet) >= 0) {
//        printf("av_read_frame success\n");
        printf("widht=%d\n", codec_ctx->width);
//        if (packet->stream_index == video_index) {
        while (1) {
            ret = avcodec_send_packet(codec_ctx, packet);
            if (ret == 0) {
//                    printf("avcodec_send_packet success\n");
                //成功找到了
                break;
            } else if (ret == AVERROR(EAGAIN)) {
//                    printf("avcodec_send_packet EAGAIN\n");
                break;
            } else {
                printf("avcodec_send_packet error:%s\n", av_err2str(ret));
                av_packet_unref(packet);
                goto quit;
            }
        }
//            while (1) {
        ret = avcodec_receive_frame(codec_ctx, pFrame);
        if (ret == 0) {
            //成功找到了
//                printf("avcodec_receive_frame success\n");
//                break;
        } else if (ret == AVERROR(EAGAIN)) {
//                    printf("avcodec_receive_frame EAGAIN\n");
//                    break;
        } else {
            printf("avcodec_receive_frame error:%s\n", av_err2str(ret));
            goto quit;
        }
//            }

        //送现
        sc->send_frame(pFrame);

        //如果已经读完,就GG
        if (avio_ctx->eof_reached) {
            break;
        }
//        }
        av_packet_unref(packet);
    }

    quit:

    if (client >= 0) {
        close(client);
        client = 0;
    }
    avformat_close_input(&format_ctx);
    sc->destroy();

    return 0;
}

这样,我们就初步完成了PC的投屏功能了。

额外-开发环境
  • mac上SDL2和FFmpeg开发环境的搭建
    因为在Clion中进行开发,所以只要简单的配置CmakeList.txt就可以了。
cmake_minimum_required(VERSION 3.13)
project(SDLDemo)

set(CMAKE_CXX_STANDARD 14)

include_directories(/usr/local/Cellar/ffmpeg/4.0.3/include/)
link_directories(/usr/local/Cellar/ffmpeg/4.0.3/lib/)

include_directories(/usr/local/Cellar/sdl2/2.0.8/include/)
link_directories(/usr/local/Cellar/sdl2/2.0.8/lib/)

set(SOURCE_FILES main.cpp MSPlayer.cpp MSPlayer.h )

add_executable(SDLDemo ${SOURCE_FILES})

target_link_libraries(
        SDLDemo
        avcodec
        avdevice
        avfilter
        avformat
        avresample
        avutil
        postproc
        swresample
        swscale
        SDL2
)

运行

  1. Android手机通过USB连接电脑,开启USB调试模式
  2. 在Studio 的项目中。运行gradle中的 adb_forwardadb_push 任务。
    adb forward result.png
adb_push result.png
  1. 进入adb shell 运行app_process
adb shell CLASSPATH=/data/local/tmp/class.jar app_process /data/local/tmp com.cry.cry.appprocessdemo.HelloWorld
app_process.png
  1. 然后点击运行PC上的项目,就可以看到弹出的屏幕了。

总结

通过上述的操作,我们通过USB和ADB命令,结合SDL2的提供的API和FFMpeg解码实现了显示。从而基本实现了PC投屏。

但是还是存在缺陷

  1. 屏幕的尺寸是我们写死的。在不同分辨率的手机上需要每次都进行调整,才能显示正常。
  2. 我们还期望能够通过PC来对手机进行控制
  3. 目前直接在主线程中进行解码和显示,因为解码的延迟,很快就能感到屏幕和手机上的延迟越来越大。

投屏尝试系列文章

推荐阅读更多精彩内容