谷歌是如何用AI来增强手机拍照能力的?——Google AI博客中Computational Photography相关文章

Improvements to Portrait Mode on the Google Pixel 4 and Pixel 4 XL

Monday, December 16, 2019
利用双摄和双像素自动对焦系统的结合,增加景深估计的能力。
双摄的baseline更大,比双像素更容易估算远处物体的深度。但存在一个相机的很多像素在另一个相机上并没有对应的像素的问题。而双像素视图可以看到这些像素,可以估计这些像素的深度。
双摄和双像素的垂直的,两者共同作用的话可以估计任何方向线条的深度。
利用机器学习来估算深度。模型同时使用两种输入,训练时将一个输入随机设置为0,来实现只有一种输入时也能准确预测的效果。
实现散景效果。散斑图案使用原始图像中的像素,而不再是透明图像。先进行模糊处理,再应用色调映射。

Astrophotography with Night Sight on Pixel Phones

Tuesday, November 26, 2019
利用Night Sight拍摄清晰的星空照片。Night Sight将曝光分为多个帧,来减少运动模糊。然后对齐多个帧,合并出更加清晰明亮的照片。
拍摄夜空照片时,曝光时间不宜超过16秒。
消除CMOS暗电流导致的亮点:通过比较同一帧内以及为照片记录的帧序列中相邻像素的值,并查找异常值,来识别Warm and hot pixels.一旦检测到离群值,就用其邻域的平均值替换其值以将其隐藏。
为了使拍摄者有反应,取景器每秒至少更新15次,这将取景器的曝光时间限制为66毫秒。
post-shutter viewfinder:按下快门按钮后,每个长时间曝光的画面都会在拍摄后立即显示在屏幕上。拍摄第一帧图像后,摄影师便可以轻松查看图像细节。然后可以在曝光持续的同时通过移动手机来调整构图。一旦构图正确,就可以停止初始拍摄,并在所有帧都具有所需构图的情况下捕获第二张照片。
post-shutter autofocus:用户按下快门按钮后,相机将捕获两个自动​​对焦框,其曝光时间最长为一秒,即使在弱光条件下也足以检测图像细节。这些框仅用于聚焦镜头,并不直接构成最终图像。
天空处理:在昏暗的场景中选择性地使天空变暗。训练CNN来识别天空区域。

Take Your Best Selfie Automatically, with Photobooth on Pixel 3

Tuesday, April 16, 2019
使用Photobooth自动获取最佳自拍照。
一旦进入Photobooth模式并单击快门按钮,它将在相机稳定、照片中的每个人看起来都很好时自动拍摄照片。
亲吻检测:亲吻亲人,相机会自动将其捕获。
面部表情模型:微笑、吐舌、亲吻、嘟嘴、惊喜
亲吻检测模型
应用注意力模型来关注前景中的表情。
通过基于注意力的面部表情得分和亲吻得分的加权组合来计算用于触发快门的最终图像质量得分。
取景框的视觉指示器:1)没有清晰看到的脸,(2)看过但不注意相机的脸,(3)注意但不做出关键表情的脸,以及(4)脸注意相机并作出关键表情。
当指示条达到代表高质量得分的长度时,屏幕将闪烁以表示已捕获并保存了照片。

Top Shot on Pixel 3

Thursday, December 20, 2018
按下快门按钮,精确自动捕获宝贵时刻。
Top Shot使用计算机视觉技术实时保存和分析快门按下设备之前和之后的图像帧,并推荐几张的高质量HDR+照片。
最佳时刻定义:

  1. 照片画质
  2. 客观属性(比如人物的表情、睁眼)
  3. 主观特质(比如情感表达)

计分模型:

  • 人脸得分
  • 主体运动显著性得分
  • 全局运动模糊评分
  • 3A(自动曝光、自动对焦、自动白平衡)得分

Learning to Predict Depth on the Pixel 3 Phones

Thursday, November 29, 2018
利用深度学习来估计深度。
将PDAF像素输入CNN网络并学习预测深度。
使用5台Pixel3手机组合来采集训练数据:

  • 5个视点在多个方向上都存在视差
  • 图像中的点至少在另一张图像中可见
  • baseline比PDAF大得多,实现更准确的深度估计
  • 摄像机之间的同步确保我们可以为上述动态场景计算深度。
  • 设备的可移动性便于在外采集照片。

Night Sight: Seeing in the Dark on Pixel Phones

Wednesday, November 14, 2018
使用Night Sight在非常弱的光线下拍摄清晰的照片,并且不需要三脚架或闪光灯。
图像噪声:散粒噪声和读取噪声
信噪比SNR
AWB在光线不足时会失效。
基于学习的AWB算法。
如何使“夜晚”拍得像“夜晚”?——暗光场景的色调映射

See Better and Further with Super Res Zoom on the Pixel 3

Monday, October 15, 2018
数字变焦:

  • 传统:线性插值
  • 现代:机器学习
    虽然一帧图像无法提供足够的信息来填充缺失的颜色,但是我们可以从连续拍摄的多张图像中获得一些缺失的信息。
    Bayer排列图像重建:多帧超分辨率算法 代替 去马赛克算法
    摩尔纹

Behind the Motion Photos Technology in Pixel 2

Tuesday, March 13, 2018

Mobile Real-time Video Segmentation

Thursday, March 1, 2018

Introducing the HDR+ Burst Photography Dataset

Monday, February 12, 2018

Introducing Appsperiments: Exploring the Potentials of Mobile Photography

Monday, December 11, 2017

Fused Video Stabilization on the Pixel 2 and Pixel 2 XL

Friday, November 10, 2017

Portrait mode on the Pixel 2 and Pixel 2 XL smartphones

Tuesday, October 17, 2017

Making Visible Watermarks More Effective

Thursday, August 17, 2017

Motion Stills — Now on Android

Thursday, July 20, 2017

Experimental Nighttime Photography with Nexus and Pixel

Tuesday, April 25, 2017

PhotoScan: Taking Glare-Free Pictures of Pictures

Thursday, April 20, 2017

HDR+: Low Light and High Dynamic Range photography in the Google Camera App

Monday, October 27, 2014

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,219评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,363评论 1 293
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,933评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,020评论 0 206
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,400评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,640评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,896评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,597评论 0 199
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,327评论 1 244
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,581评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,072评论 1 261
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,399评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,054评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,083评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,849评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,672评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,585评论 2 270