简评：AlphaGo 已经超越了人类的围棋。牛津、耶鲁 AI 学者，写了一份论文，调研了 352 位从事 AI 工作的研究者，来探讨 AI 到底何时能全面超越人类。
人工智能（AI）的发展将通过重塑交通，改造现代生活，卫生，科学，金融和军队[1，2，3]。 我们需要更好预期这些进步[4,5]。
- 这份报告将预测 AI 跑赢人类的时间，如翻译语言（2024 年），撰写高中文章（2026 年），开车（2027 年），零售业（2031 年），写一本畅销书（2049 年），并且作为外科医生（2053 年）。
- 研究人员认为在 45 年内，AI 有 50％ 的机会超过人类的所有任务，120 年有望取代全部的人类工作，并且实现自动化，
- 亚洲受访者比北美受访者更期待 AI 的工作。
本文有助于研究人员和政策制定者，讨论 AI 的趋势及管理。
介绍
人工智能（AI）的进步将产生巨大的社会影响。 自驾技术在未来十年内，可能会取代数百万的驾驶工作。 除了可能带来的失业问题，过渡期也将面临新的挑战，如重建基础设施，保护车辆网络安全，适应法律法规[5]。 AI 的研究者和政策相关人员，需要思考多维度，如商业、军事、技术、伦理、市场、营销等问题[6]。为了应对这些挑战，对变革中的人工智能做出准确预测将是无价的。
支撑未来 AI 进展的客观证据：计算硬件的趋势[7]，任务性能[8]和劳动力的自动化[9]。AI 专家的预测也提供了关键的附加信息。 迄今为止，我们调查了更多更具代表性的 AI 专家样本[10,11]。 我们的问题涵盖 AI 进展的时间以及 AI 的社会和伦理影响。
调研方法
我们的调查人群是在 2015 年 NIPS 和 ICML 会议上发表的研究人员。 共 352 个研究人员回答了我们的调查邀请（我们联系的 1634 人，21％ 给我们反馈）。 我们的问题涉及具体 「AI 能力的时间（例如折叠洗衣，语言翻译）」、「特定职业的优势（例如卡车司机，外科医生）」、「在所有任务方面优于人类」、「高级人工智能的社会影响」。 有关详细信息，请参阅调查内容。
机器跑赢人类的时间
如果所有的任务都由机器有效地实现，那么会产生巨大的社会后果。我们使用以下定义：
High-level machine intelligence” (HLMI) is achieved when unaided machines can accomplish every task better and more cheaply than human workers.
高级智能机器人（简称：HLMI）可以独立完成工作并成本更低。
受访者预估 HLMI 出现的时间。总结平均值，有 50% 的可能性在 45 内出现，有 10% 的可能性在 9 年内出现。
图1显示了个体随机子集的概率预测，以及平均预测。
（图1：HLMI 取代人类工作的百分比与时间的预测）
而每个参与者都会被问及这样一个问题「劳动力完全被 HLMI 取代的预估时间」。图 2 显示，50% 的研究员认为 122 年能实现，10% 的研究员认为 20 年会实现。
（图2：HLMI 取代人类具体工作项与时间的预测）
智能爆发，成果，安全
我们要思考一些重要的问题，这关乎着 AI 的未来。
- 一旦人工智能研究和开发本身可以自动化，AI 的进步就会爆发式快速发展？
- 高级机器智能（HLMI）如何影响经济增长？
- 产生极端结果（正面/负面）的可能性是多大？
- 应该做些什么来帮助确保发展的有益？
表 S4 显示了有关这些主题的问题的结果。 以下是一些重要发现：
- 研究人员认为近年来的 AI 正在加速发展。研究人员在 AI 领域平均工作年限是 6 年，其中有 67% 认为职业生涯后半段比前半段发展的更快。
- 一些研究员认为，一旦实现了 HLMI，AI 系统将在所有任务中迅速成为人类的极大优势[3,12]。 这种加速度被称为「智能爆发」。10% 研究员认为在 HLMI 实现两年后，AI 将在所有任务中执行得比人类好得多。
- HLMI 被认为可能有积极的结果，但灾难性的风险也是存在的。 研究员们被问及 HLMI 是否会长期对人类产生积极或消极的影响。「良好」结果的平均概率为25％，「极好」结果的平均概率为 20％。相比之下，「不良」结果的概率为10％，而描述为「极度不良（例如人类灭绝）」的结果的概率为5％。
- 社会应优先考虑旨在尽量减少人工智能的潜在风险。88% 的受访者认为，应该更多的研究人工智能存在的风险问题。
（图3：从 2016 年起，HLMI 出现的地区和时间趋势预测）
亚洲人希望出现 HLMI 的时间比北美人早 44 年
图3显示了个体受访者在预测HLMI意愿时的差异。 不过，来自不同地区的受访者却惊人 HLMI预测的差异。（见图 S1和表S2）
中国的参与者预测 HLMI 会在 28 年后实现，而美国预测 78 年后。亚洲的平均预测年限为 30年。（见表 S2，注：中国的参与者大部分身处海外）
数据代表性
任何一份报告都不可能回避偏见，不排除有强烈主观意识的研究员填写了此份调研。我们通过缩短问题长度和保密的形式，来减少影响。为了调查可能的无应答偏倚，我们收集了我们的受访者（n = 406）和无应答的 NIPS / ICML 研究人员的随机样本（n = 399）的人口统计学数据。结果示于表S3中。
引用次数，资历，性别和原籍国之间的差异很小。虽然我们不能排除由于未测量的变量而导致的无应答偏差，但由于我们测量的人口统计变量，我们可以排除较大的偏差。
我们的被调人口数据显示，我们的受访者包括许多文章被高度引用的研究人员（主要是机器学习，也包括统计学，计算机科学理论和神经科学），来自 43 个国家。大部分在学术界（82％），而 21％ 在工业界工作。
讨论
为什么 AI 专家有能力预见AI进展？在政治学领域，长期的研究发现，专家预测的结果往往都不尽如人意[13]。AI的进步，依靠科学突破，可能会出现本质上更难预测。但我们对此有理由保持乐观。对于许多领域（包括计算机硬件，基因组学，太阳能）的研发工作的长期进展已经非常规范[14]。例如 SAT 问题的解决，游戏和计算机视觉中 AI 表现的趋势[8]也会显示出这种规律性，AI 专家可以利用这些趋势进行预测。
最后，将个体预测整合可以大大改进随机个体的预测[15]。进一步的工作可以使用我们的数据进行优化预测。此外，预计未来十年将会实现许多AI里程碑（图2），为个人专家的可靠性提供实地证据。
参考文献：
- [1] Peter Stone, Rodney Brooks, Erik Brynjolfsson, Ryan Calo, Oren Etzioni, Greg Hager, Julia Hirschberg, Shivaram Kalyanakrishnan, Ece Kamar, Sarit Kraus, et al. One hundred year study on artificial intelligence: Report of the 2015-2016 study panel. Technical report, Stanford University, 2016.
- [2] Pedro Domingos. The Master Algorithm : How the Quest for the Ultimate Learning Machine Will Remake Our World. Basic Books, New York, NY, 2015.
- [3] Nick Bostrom. Superintelligence: Paths, Dangers, Strategies. Oxford University Press, Oxford, UK, 2014.
- [4] Erik Brynjolfsson and Andrew McAfee. The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. WW Norton & Company, New York, 2014.
- [5] Ryan Calo. Robotics and the lessons of cyberlaw. California Law Review, 103:513, 2015.
- [6] Tao Jiang, Srdjan Petrovic, Uma Ayyer, Anand Tolani, and Sajid Husain. Self-driving cars: Disruptive or incremental. Applied Innovation Review, 1:3–22, 2015.
- [7] William D. Nordhaus. Two centuries of productivity growth in computing. The Journal of Economic History, 67(01):128–159, 2007.
- [8] Katja Grace. Algorithmic progress in six domains. Technical report, Machine Intelligence Research Institute, 2013.
- [9] Erik Brynjolfsson and Andrew McAfee. Race Against the Machine: How the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy. Digital Frontier Press, Lexington, MA, 2012.
- [10] Seth D. Baum, Ben Goertzel, and Ted G. Goertzel. How long until human-level ai? results from an expert assessment. Technological Forecasting and Social Change, 78(1):185–195, 2011.
- [11] Vincent C. Müller and Nick Bostrom. Future progress in artificial intelligence: A survey of expert opinion. In Vincent C Müller, editor, Fundamental issues of artificial intelligence, chapter part. 5, chap. 4, pages 553–570. Springer, 2016.
- [12] Irving John Good. Speculations concerning the first ultraintelligent machine. Advances in computers, 6:31–88, 1966.
- [13] Philip Tetlock. Expert political judgment: How good is it? How can we know? Princeton University Press, Princeton, NJ, 2005.
- [14] J Doyne Farmer and François Lafond. How predictable is technological progress? Research Policy, 45(3):647–665, 2016.
- [15] Lyle Ungar, Barb Mellors, Ville Satopää, Jon Baron, Phil Tetlock, Jaime Ramos, and Sam Swift. The good judgment project: A large scale test. Technical report, Association for the Advancement of Artificial Intelligence Technical Report, 2012.
- [16] Joe W. Tidwell, Thomas S. Wallsten, and Don A. Moore. Eliciting and modeling probability forecasts of continuous quantities. Paper presented at the 27th Annual Conference of Society for Judgement and Decision Making, Boston, MA, 19 November 2016., 2013.
- [17] Thomas S. Wallsten, Yaron Shlomi, Colette Nataf, and Tracy Tomlinson. Efficiently encoding and modeling subjective probability distributions for quantitative variables. Decision,3(3):169, 2016.
补充资料
调查内容
- Three sets of questions eliciting HLMI predictions by different framings: asking directly about HLMI, asking about the automatability of all human occupations, and asking about recent progress in AI from which we might extrapolate.
- Three questions about the probability of an “intelligence explosion”.
- One question about the welfare implications of HLMI.
- A set of questions about the effect of different inputs on the rate of AI research (e.g., hardware progress).
- Two questions about sources of disagreement about AI timelines and “AI Safety.”
- Thirty-two questions about when AI will achieve narrow “milestones”.
- Two sets of questions on AI Safety research: one about AI systems with non-aligned goals, and one on the prioritization of Safety research in general.
- A set of demographic questions, including ones about how much thought respondents have given to these topics in the past. The questions were asked via an online Qualtrics survey. (The Qualtrics file will be shared to enable replication.) Participants were invited by email and were offered a financial reward for completing the survey. Questions were asked in roughly the order above and respondents received a randomized subset of questions. Surveys were completed between May 3rd 2016 and June 28th 2016.
调研者人口统计
见表 S3，引文数量和资历（即博士多少年了）于2017年2月收集。
补充数据
不同纬度 CDF 曲线。
补充表格
表 S1：研究地区自动化预测
表 S2：HLMI预测人口特征的复原
表 S3：受访者与非受访者的人口统计
表 S4：关于 AI 进展、智能爆发、和安全的调研回复
表 S5：AI 里程碑事件（图太长，请看原文）
致谢
我们感谢 Connor Flexman 收集人口信息。 我们也非常感谢 Nick Bostrom 对这项工作的启发，Michael Webb 和 AndreasStuhlmüller 也提供了有用的意见。 感谢牛津的人类未来研究会未来生命研究会，以及支持这项工作的公开慈善项目。
原文：When Will AI Exceed Human Performance? Evidence from AI Experts
以上均为 PDF 版本的内容，可点击阅读原文下载。
“本译文仅供个人研习、欣赏语言之用，谢绝任何转载及用于任何商业用途。本译文所涉法律后果均由本人承担。本人同意简书平台在接获有关著作权人的通知后，删除文章。”
延伸阅读：
- 扎克伯格的私人 AI 管家 Jarvis（贾维斯）
-
「人工智能入门」AI 是什么？
欢迎关注知乎专栏「极光日报」，每天为 Makers 导读三篇优质英文文章。
