Metal Camera开发5:AVAssetWriterInputPixelBufferAdaptor实现Metal渲染结果从BGRA到yuv420p的快速转换

本文档描述使用AVAssetWriterInputPixelBufferAdaptor简化Metal渲染结果从BGRA到yuv420p的转换,适用于写成MP4或MOV容器。以前有人用类似的办法暴力实现iOS 8以下的H.264硬解,代价是消耗用户的闪存写次数。

文档结构:

  1. 初始化AVAssetWriterInput
  2. 初始化AVAssetWriterInputPixelBufferAdaptor
  3. CVPixelBuffer写入AVAssetWriterInputPixelBufferAdaptor
  4. 讨论:指定BT. 709 YUV转RGB矩阵

Metal Camera开发4:渲染到CVPixelBuffer实现了CVPixelBuffer存储渲染结果,对于摄像头开发,通常希望将渲染结果编码成H.264或H.265(iOS 11支持),iOS平台的H.264编码器原生支持yuv420sp VideoRange及FullRange,而Metal渲染到CVPixelBuffer时像素格式为BGRA,显然需要进行像素格式转换,比如使用libyuv、Metal 着色器实现RGBA转yuv或GLSL实现。对于将数据写到本地的需求,AVFoundation提供了AVAssetWriterInputPixelBufferAdaptor简化RGB转yuv的步骤。GPUImage也使用了这种方式实现OpenGL ES的渲染结果编码成H.264。下面描述它的编程过程。

AVAssetWriterInputPixelBufferAdaptor必须配合AVAssetWriterInput使用,不然没法调用构造函数(手动斜眼.jpg)。AVAssetWriterInputPixelBufferAdaptor类的头文件描述了它的功能:

Pixel buffers not in a natively supported format will be converted internally prior to encoding when possible.

对于编码Metal的渲染结果,初始化AVAssetWriterInputPixelBufferAdaptor指定sourcePixelBufferAttributes使用kCVPixelBufferPixelFormatTypeKey为kCVPixelFormatType_32BGRA,之后的像素格式转换都由AVFoundation内部实现,省去了手动实现BGRA转yuv。当编码CoreImage的渲染结果,kCVPixelBufferPixelFormatTypeKey对应的值为kCVPixelFormatType_32ARGB。总之,需要和数据源对应起来,否则视频会表现出异常颜色。接下来逐一描述编程步骤。

1. 初始化AVAssetWriterInput

let videoCompressionProperties = [
    AVVideoAverageBitRateKey: 1080 * 1920 * 15.15
]

let videoSettings: [String : Any] = [
        AVVideoCodecKey: AVVideoCodecH264,
        AVVideoWidthKey: 1080,
        AVVideoHeightKey: 1920,
        AVVideoCompressionPropertiesKey: videoCompressionProperties
]

self.videoWriterInput = AVAssetWriterInput(mediaType: AVMediaTypeVideo, outputSettings: videoSettings)

AVAssetWriterInput还需添加到AVAssetWriter,网上参考代码非常丰富,在此不一一描述。

2. 初始化AVAssetWriterInputPixelBufferAdaptor

var videoWriterInputPixelBufferAdaptor: AVAssetWriterInputPixelBufferAdaptor?
//-------
let sourcePixelBufferAttributes = [
        kCVPixelBufferPixelFormatTypeKey as String: kCVPixelFormatType_32BGRA,
        kCVPixelBufferWidthKey as String: 1080,
        kCVPixelBufferHeightKey as String: 1920
]

self.videoWriterInputPixelBufferAdaptor = AVAssetWriterInputPixelBufferAdaptor(
        assetWriterInput: self.videoWriterInput!,
        sourcePixelBufferAttributes: sourcePixelBufferAttributes
)

AVAssetWriterInputPixelBufferAdaptor是否应该在AVAssetWriterInput添加到AVAssetWriter前初始化?经实验,这一操作的顺序不影响程序的正常运行,在AVAssetWriter.startWriting()前初始化即可。

3. CVPixelBuffer写入AVAssetWriterInputPixelBufferAdaptor

self.videoWriterInputPixelBufferAdaptor!.assetWriterInput.isReadyForMoreMediaData {
    let whetherPixelBufferAppendedtoAdaptor = self.videoWriterInputPixelBufferAdaptor!.append(renderPixelBuffer!, withPresentationTime: presentationTime)
    if whetherPixelBufferAppendedtoAdaptor {
        print("adaptor appended CVPixelBuffer successfully")
    } else {
        print("adaptor appended CVPixelBuffer  failed")
    }
}

renderPixelBuffer为Metal渲染的目标CVPixelBuffer,即它存储了最终的渲染结果,细节可参考Metal Camera开发4:渲染到CVPixelBuffer

4. 讨论:指定BT. 709 YUV转RGB矩阵

GPUImageMovieWriter类的createDataFBO方法有这么一段注释:

/* AVAssetWriter will use BT.601 conversion matrix for RGB to YCbCr conversion
 * regardless of the kCVImageBufferYCbCrMatrixKey value.
 * Tagging the resulting video file as BT.601, is the best option right now.
 * Creating a proper BT.709 video is not possible at the moment.
 */

在iOS 10的测试过程中,发现已支持kCVImageBufferYCbCrMatrixKey设置为kCVImageBufferTransferFunction_ITU_R_709_2。参考代码如下。

CVBufferSetAttachment(pixelBuffer!, kCVImageBufferColorPrimariesKey, kCVImageBufferColorPrimaries_ITU_R_709_2, CVAttachmentMode.shouldPropagate)
CVBufferSetAttachment(pixelBuffer!, kCVImageBufferYCbCrMatrixKey, kCVImageBufferTransferFunction_ITU_R_709_2, CVAttachmentMode.shouldPropagate)
CVBufferSetAttachment(pixelBuffer!, kCVImageBufferTransferFunctionKey, kCVImageBufferTransferFunction_ITU_R_709_2, CVAttachmentMode.shouldPropagate)

FFmpeg读取生成的视频信息如下所示。

AVAssetWriter已支持ITU_R_709
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 151,511评论 1 330
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 64,495评论 1 273
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 101,595评论 0 225
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 42,558评论 0 190
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 50,715评论 3 270
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 39,672评论 1 192
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,112评论 2 291
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 29,837评论 0 181
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 33,417评论 0 228
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 29,928评论 2 232
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,316评论 1 242
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 27,773评论 2 234
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,253评论 3 220
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 25,827评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,440评论 0 180
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 34,523评论 2 249
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 34,583评论 2 249

推荐阅读更多精彩内容

  • 在保证视频图像质量的前提下,HEVC通过增加一定的计算复杂度,可以实现码流在H.264/AVC的基础上降低50%。...
    加刘景长阅读 7,566评论 0 6
  • 由于H.264等压缩算法都是在YUV的颜色空间上进行的,所有在进行压缩前,首先要进行颜色空间的转换。如果摄像头采集...
    眷卿三世阅读 13,088评论 2 6
  • 本文档通过Metal compute shader对摄像头当前捕获的画面进行简单的Gamma校正,绘制到屏幕(MT...
    熊皮皮阅读 5,593评论 5 11
  • “你会像爱自己那样爱她吗?” “不会。” “原因。” “因为机器不可能爱我,我更不可能爱她。” 对于人工智能,你想...
    青_浦阅读 204评论 0 1
  • 01 几天前听到交广的一个栏目,讨论的话题就是什么不能将就。 有一位听众是这么说的,第一不能将就的是老婆,第二不能...
    青叶11阅读 499评论 0 1