[AVFoundation]时间和媒体表示

原文:AVFoundation Programming Guide

基于时间的视听数据,例如电影文件或视频流在AV Foundation框架中使用AVAsset表示。AV Foundation用来表示时间和媒体的几个低级数据结构,例如样本缓冲区来自Core Media框架。

资源表示

AVAsset是AV Foundation框架的核心类。 它提供了基于时间的视听数据的格式无关抽象,例如电影文件或视频流。 主要关系如图6-1所示。 在许多情况下,您使用其中一个子类:使用composition子类创建新资源(请参阅Editing),使用AVURLAsset从给定URL创建新的资源实例(包括MPMedia框架或Asset Library框架的资源 - 请参阅Using Assets)。

Figure 6-1 AVAsset provides an abstraction of time-based audiovisual data

资源包含在一起呈现或处理的轨道的集合,每个轨道的媒体类型,包括(但不限于)音频,视频,文本,隐藏字幕和字幕。 资源对象提供关于整个资源的信息,例如其持续时间或标题,以及呈现的提示,例如其自然大小。 资源还可以具有由AVMetadataItem的实例表示的元数据。

轨道由AVAssetTrack的实例表示,如图6-2所示。 在通常的简单情况下,一个轨道表示音频,另一个表示视频; 在复杂的组合中,可能存在多个重叠的音频和视频轨道。

Figure 6-2 AVAssetTrack

轨道具有许多属性,例如其类型(视频或音频),视觉和/或听觉特征,元数据和时间轴。 轨道还具有一系列格式描述。 该数组包含CMFormatDescription对象(请参阅CMFormatDescriptionRef),每个对象描述该轨道引用的媒体样本的格式。 一个轨道如果包含统一的媒体(例如,全部使用相同设置编码)那么这个数组的计数为1。

轨道本身可以分为段,由AVAssetTrackSegment的实例表示。 段是从源到资源轨道时间线的时间映射。

时间表示

AV Foundation中的时间由Core Media框架的原始结构表示。

CMTime代表一段时间

CMTime是一个C结构,它将时间表示为有理数,分子(一个int64_t的值)和分母(一个int32_t时间标度)。 在概念上,时间标度指在每一秒中所占有的比例。 因此,如果时间标度是4,每个单位代表四分之一秒; 如果时间刻度为10,则每个单位表示十分之一秒,依此类推。 您经常使用600的时间尺度,因为这是几种常用的帧速率的倍数:24 fps的电影,30 fps的NTSC(用于北美和日本的电视)和25 fps的PAL(用于电视 欧洲)。 使用600的时间刻度,您可以准确地表示这些系统中的任意数量的帧。

除了简单的时间值之外,CMTime结构可以表示非数值值:+无穷大,-infinity和无限期。 它也可以指示时间是否在某一点被舍入,并且它保持一个epoch(纪元)数字。

使用CMTime

您可以使用CMTimeMake或相关函数如CMTimeMakeWithSeconds(允许您使用float值创建一个时间并指定首选的时间标度)来创建一个时间。 有一些基于时间的算法和比较时间的方法,如以下示例所示:

CMTime time1 = CMTimeMake(200, 2); // 200 half-seconds
CMTime time2 = CMTimeMake(400, 4); // 400 quarter-seconds

// time1 and time2 both represent 100 seconds, but using different timescales.
if (CMTimeCompare(time1, time2) == 0) {
    NSLog(@"time1 and time2 are the same");
}

Float64 float64Seconds = 200.0 / 3;

CMTime time3 = CMTimeMakeWithSeconds(float64Seconds , 3); // 66.66... third-seconds

time3 = CMTimeMultiply(time3, 3);

// time3 now represents 200 seconds; next subtract time1 (100 seconds).
time3 = CMTimeSubtract(time3, time1);

CMTimeShow(time3);

if (CMTIME_COMPARE_INLINE(time2, ==, time3)) {
    NSLog(@"time2 and time3 are the same");
}

可用函数的列表可以参阅 CMTime Reference.

CMTime的特殊值

Core Media提供了一些常量:
kCMTimeZero,kCMTimeInvalid,kCMTimePositiveInfinity和kCMTimeNegativeInfinity。 CMTime结构可以有多种方式,例如,表示无效的时间。 要测试CMTime是否有效或非数值,您应该使用适当的宏,如CMTIME_IS_INVALIDCMTIME_IS_POSITIVE_INFINITYCMTIME_IS_INDEFINITE

CMTime myTime = <#Get a CMTime#>;
if (CMTIME_IS_INVALID(myTime)) {
    // Perhaps treat this as an error; display a suitable alert to the user.
}

您不应该将任意CMTime结构的值与kCMTimeInvalid进行比较。

将CMTime表示为对象

如果需要在Core Foundation容器中使用CMTime结构,则可以分别使用CMTimeCopyAsDictionaryCMTimeMakeFromDictionary函数将CMTime结构转换为CFDictionary opaque类型(参见CFDictionaryRef)。 您还可以使用CMTimeCopyDescription函数获取CMTime结构的字符串表示形式。

Epochs(纪元)

CMTime结构的epoch通常设置为0,但您可以使用它来区分不相关的时间轴。 例如,可以在循环时通过每个周期递增epoch,以区分循环0中的时间N和循环1中的时间N.

CMTimeRange表示时间范围

CMTimeRange是一个具有开始时间和持续时间的C结构,均表示为CMTime结构。 时间范围不包括开始时间加上持续时间的时间。

您使用CMTimeRangeMakeCMTimeRangeFromTimeToTime创建一个时间范围。 对CMTime的epochs有一些约束:

  • CMTimeRange结构不能跨越不同的epochs。
  • 表示时间戳的CMTime结构中的epoch可能不为零,但您只能在起始字段具有相同epoch的范围上执行范围操作(例如CMTimeRangeGetUnion)。
  • 表示持续时间的CMTime结构中的epoch应始终为0,并且该值必须为非负数。
使用时间范围

Core Media提供了一些函数,可以用于确定时间范围是否包含给定时间或其他时间范围,确定两个时间范围是否相等,计算时间范围的联合和交集,如CMTimeRangeContainsTimeCMTimeRangeEqualCMTimeRangeContainsTimeRangeCMTimeRangeGetUnion

鉴于时间范围不包括开始时间加上持续时间的时间,以下表达式总是为false:

CMTimeRangeContainsTime(range, CMTimeRangeGetEnd(range))

其他的一些可用函数, 参阅 CMTimeRange Reference.

CMTimeRange的特殊值

Core Media分别为零长度范围和无效范围提供了常量kCMTimeRangeZerokCMTimeRangeInvalid。 有许多方式可以使CMTimeRange结构无效,为零或不定式(如果其中一个CMTime结构是不确定的)。如果您需要测试CMTimeRange结构是否有效,零或不确定,您应该使用 一个适当的宏 : CMTIMERANGE_IS_VALID ,CMTIMERANGE_IS_INVALID ,CMTIMERANGE_IS_EMPTY , 或CMTIMERANGE_IS_EMPTY

CMTimeRange myTimeRange = <#Get a CMTimeRange#>;
if (CMTIMERANGE_IS_EMPTY(myTimeRange)) {
    // The time range is zero.
}

您不应将任意CMTimeRange结构的值与kCMTimeRangeInvalid进行比较。

将CMTimeRange结构表示为对象

如果需要在Core Foundation容器中使用CMTimeRange结构,则可以分别使用CMTimeRangeCopyAsDictionaryCMTimeRangeMakeFromDictionary将CMTimeRange结构转换为CFDictionary opaque类型(请参阅CFDictionaryRef)。 您还可以使用CMTimeRangeCopyDescription函数获取CMTime结构的字符串表示形式。

媒体表示

视频数据及其关联的元数据在AV Foundation中由Core Media框架中的不透明对象表示。 Core Media使用CMSampleBuffer表示视频数据(请参阅CMSampleBufferRef)。 CMSampleBuffer是一个Core Foundation风格的不透明类型; 一个实例包含视频数据帧作为核心视频像素缓冲区的样本缓冲区(参见CVPixelBufferRef)。 您可以使用CMSampleBufferGetImageBuffer从样本缓冲区访问像素缓冲区:

CVPixelBufferRef pixelBuffer = CMSampleBufferGetImageBuffer(<#A CMSampleBuffer#>);

从像素缓冲区,您可以访问实际的视频数据。 有关示例,请参阅 Converting CMSampleBuffer to a UIImage Object

除了视频数据之外,您还可以获取视频帧的其他方面:

CMSampleBufferRef sampleBuffer = <#Get a sample buffer#>;
CFDictionaryRef metadataDictionary =
    CMGetAttachment(sampleBuffer, CFSTR("MetadataDictionary", NULL);
if (metadataDictionary) {
    // Do something with the metadata.
}
将CMSampleBuffer转换为UIImage对象

以下代码显示如何将CMSampleBuffer转换为UIImage对象。 使用前,您应仔细考虑您的要求。 执行转换是比较昂贵的操作。 例如,从每秒钟拍摄的视频数据帧中创建静止图像是适当的。 您不应该使用它作为一种手段来实时地处理来自捕获设备的每一帧视频。

// Create a UIImage from sample buffer data

- (UIImage *) imageFromSampleBuffer:(CMSampleBufferRef) sampleBuffer
{
    // Get a CMSampleBuffer's Core Video image buffer for the media data
    CVImageBufferRef imageBuffer = CMSampleBufferGetImageBuffer(sampleBuffer);

    // Lock the base address of the pixel buffer
    CVPixelBufferLockBaseAddress(imageBuffer, 0);

    // Get the number of bytes per row for the pixel buffer
    void *baseAddress = CVPixelBufferGetBaseAddress(imageBuffer);

    // Get the number of bytes per row for the pixel buffer
    size_t bytesPerRow = CVPixelBufferGetBytesPerRow(imageBuffer);

    // Get the pixel buffer width and height
    size_t width = CVPixelBufferGetWidth(imageBuffer);
    size_t height = CVPixelBufferGetHeight(imageBuffer);

    // Create a device-dependent RGB color space
    CGColorSpaceRef colorSpace = CGColorSpaceCreateDeviceRGB();

    // Create a bitmap graphics context with the sample buffer data
    CGContextRef context = CGBitmapContextCreate(baseAddress, width, height, 8,
      bytesPerRow, colorSpace, kCGBitmapByteOrder32Little | kCGImageAlphaPremultipliedFirst);

    // Create a Quartz image from the pixel data in the bitmap graphics context
    CGImageRef quartzImage = CGBitmapContextCreateImage(context);

    // Unlock the pixel buffer
    CVPixelBufferUnlockBaseAddress(imageBuffer,0);

    // Free up the context and color space
    CGContextRelease(context);
    CGColorSpaceRelease(colorSpace);

    // Create an image object from the Quartz image
    UIImage *image = [UIImage imageWithCGImage:quartzImage];

    // Release the Quartz image
    CGImageRelease(quartzImage);

    return (image);
}
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,219评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,363评论 1 293
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,933评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,020评论 0 206
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,400评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,640评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,896评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,597评论 0 199
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,327评论 1 244
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,581评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,072评论 1 261
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,399评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,054评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,083评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,849评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,672评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,585评论 2 270

推荐阅读更多精彩内容

  • 基于时间的视听数据,例如电影文件或视频流,在AV Foundation框架中被表示AVAsset。其结构决定了大部...
    张芳涛阅读 762评论 0 4
  • 本文转自:AVAudioFoundation(6):时间和媒体表示 | www.samirchen.com 本文主...
    SamirChen阅读 662评论 0 4
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,100评论 18 139
  • ⒉案情梳理 苏篱落从警局安然出来了。 她走在大街上,感觉有点冷,才发现天已经黑了。 不知不觉她被带到警局做笔录,到...
    叶凌凡阅读 385评论 0 3
  • 一个阳光正好、心情正好的时候,我正坐在办公室里码字,突然接到朋友的电话,要我帮忙谈点事儿。我关上电脑匆忙往外跑,见...
    恰逢阅读 351评论 0 1