虹软人脸识别 - faceId及IR活体检测的更新介绍

前几天虹软推出了 Android ArcFace 2.2版本的SDK,相比于2.1版本,2.2版本中的变化如下:

  • VIDEO模式新增faceId(类似于此篇文章中提到的trackId)
  • 新增IR活体检测功能
  • 新增IR、RGB的活体阈值设置

一、faceId介绍

1. 定义

在连续的视频帧中,当一个人脸进入视频画面直到离开,其faceId不变。

2. 应用场景举例

在门禁应用场景下,若一个人长时间停留在画面中,借助faceId的功能,在此人的人脸特征提取成功后,可不再对此人的后续人脸信息进行处理。

3. 注意事项

faceId在VIDEO模式下有意义;
faceId在IMAGE模式下无效。

二、 IR活体检测

1. 接口介绍

支持的颜色格式如下:
Windows: GRAY、DEPTH_U16、NV21、NV12、I420
Android: GRAY、DEPTH_U16、NV21
注:若图像数据的颜色格式不在上述列表中,必须对图像数据进行格式转换。

2. IR活体检测实现方案

  • 单目摄像头检测方案(IR)

    image

注意:在Windows平台下,若通过OpenCV获取IR摄像头的图像数据,由于其颜色格式为BGR_24,不能用于IR活体检测,需要转成GRAY(或IR活体检测接口支持的其他颜色格式),但BGR_24数据可直接用于人脸检测。

  • 双目摄像头检测方案(IR + RGB)

    image

人脸检测结果信息调整 :若RGB摄像头和IR摄像头的成像不一致(存在偏移、旋转、镜像等问题),需要将传递给IR活体检测的人脸信息(人脸框、人脸角度)进行调整。

3. 双目IR活体检测遇到的坑

在双目的画面有明显的不一致的情况时,若我们直接把RGB摄像头的人脸检测结果用于IR活体检测,很有可能会报81925(人脸置信度低)错误。原来,摄像头回传的数据和我们直接看到的画面很可能是不一样的,我们看到的画面可能是经过处理的(缩放、旋转、镜像等)。

  • 检测方法
    最直观的检查方法就是将摄像头数据显示到屏幕上。只要我们把2个摄像头回传的数据显示到屏幕上,就能了解两个摄像头数据的成像关系。例如Android平台可使用以下方式查看NV21数据:
    示例流程
    nv21 -> YuvImage -> jpg bytes -> bitmap -> ImageView
    示例代码
  @Override
  public void onPreview(final byte[] nv21, Camera camera) {
    ......
    //30帧一次,把帧数据显示到界面上(要是每帧都做就太卡了),若还是影响UI请放到子线程处理
    if (index++ % 30 == 0) {
      YuvImage yuvImage = new YuvImage(nv21, ImageFormat.NV21, previewSize.width, previewSize.height, null);
      ByteArrayOutputStream baos = new ByteArrayOutputStream();
      yuvImage.compressToJpeg(new Rect(0, 0, previewSize.width, previewSize.height), 100, baos);
      byte[] bytes = baos.toByteArray();
      ivFrame.setImageBitmap(BitmapFactory.decodeByteArray(bytes, 0, bytes.length));
    }
    ......
  }

  • 解决方案

1. RGB和IR摄像头图像数据的其中一个被左右镜像
对于这种情况,我们在将RGB数据的人脸检测结果用于IR活体检测时,需要将其人脸框(rect)进行左右镜像调整。(Android demo中已提供左右镜像的代码):

    /**
     * 人脸框水平镜像
     *
     * @param rect 人脸框
     * @return 水平镜像后的人脸框
     */
    private Rect mirrorRectHorizontal(Rect rect) {
        Rect newRect = new Rect(rect);
        newRect.right = previewSize.width - rect.left;
        newRect.left = previewSize.width - rect.right;
        return newRect;
    }

2. RGB和IR摄像头图像数据均被镜像或均未被镜像
对于这种情况,RGB数据的人脸检测结果用于IR活体检测时,不需要进行镜像调整。

3. RGB和IR摄像头图像数据有旋转关系
若有旋转关系,我们不仅要旋转人脸信息(FaceInfo)中的人脸框(rect),还需要修改人脸角度(orient)。否则IR活体检测将无法解析人脸,报81925错误。
(Android demo中已提供将orient单次旋转90度的代码):

    /**
     * 获取逆时针旋转90度后的人脸角度
     *
     * @param orient 人脸角度信息,即{@link FaceInfo#orient}属性,由{@link FaceEngine#detectFaces(byte[], int, int, int, List)}接口获取
     * @return 旋转后的人脸角度
     */
    private int rotateOrient(int orient) {
        switch (orient) {
            case FaceEngine.ASF_OC_0:
                return FaceEngine.ASF_OC_90;
            case FaceEngine.ASF_OC_90:
                return FaceEngine.ASF_OC_180;
            case FaceEngine.ASF_OC_180:
                return FaceEngine.ASF_OC_270;
            case FaceEngine.ASF_OC_270:
                return FaceEngine.ASF_OC_0;
            default:
                throw new IllegalArgumentException("unsupported orient '" + orient + "'");
        }
    }

如果对虹软人脸识别sdk感兴趣的,可以到他们官网去下载最新版本体验一下:https://ai.arcsoft.com.cn/product/arcface.html?utm_source=jianshu&utm_medium=referral欢迎互动交流。

推荐阅读更多精彩内容