Skip to content

Latest commit

 

History

History
57 lines (31 loc) · 5.57 KB

thinking.md

File metadata and controls

57 lines (31 loc) · 5.57 KB

思考

ChatGPT 之父 Sam Altman: 万物摩尔定律

英文原文 中文翻译

本文来自2021年Sam Altman的博客,他在文章中写了对人工智能革命的思考。我认为他自己总结的很好,下面是观点摘要:

我在OpenAI的工作每天都在提醒我,社会经济的重大变革将会比绝大多数人认为的更快到来。越来越多人类的工作将被能够思考和学习的软件取代,更多的权力将从劳动力转移到资本上。如果我们的公共政策不做出相应的调整,最终,大多数人会比现在过得还要糟糕。

我们需要设计一种制度拥抱这种技术化的未来,然后对构成未来世界大部分价值的资产(公司和土地)征税,以便公平地分配由此产生的财富。这样做可以使未来社会的分裂性大大降低,并使每个人都能参与收益分配。

未来五年,会思考的计算机程序将可以阅读法律文件,并提供医疗建议;在接下来的十年里,它们将可以从事流水线工作,甚至可能成为人类的同伴;而在之后的几十年里,它们几乎可以做所有的事情,包括探索新的科学发现,扩大我们对”一切”的概念。

这场技术革命势不可挡。当这些智能机器又可以帮助我们制造更智能的机器时,创新的循环往复将加快这场革命的步伐。随之而来的是三个至关重要的后果:

  1. 这场革命将创造惊人的财富。一旦有足够强大的人工智能「加入劳动大军」,很多种劳动力的价格(驱动商品和服务的成本)将逐渐归零。

  2. 世界将发生翻天覆地的变化,因此我们需要同样颠覆性的政策变化来分配财富,从而使更多的人可以追求自己想要的生活。

  3. 如果我们把这两方面的工作做好了,就能将人类的生活水平提高到前所未有的状态。

由于我们正处于巨变的开端,因此人类有一个难能可贵的机会去打造未来。这种设计不会简单地解决当前人类面临的社会和政治问题,人类需要着眼于不久的将来,设计一套截然不同的政策体系。

如果我们在制定政策时不着眼于未来,那人类即将面临重大的考验,就像我们把前农耕社会或封建社会的组织原则应用到当今社会,必然会导致失败一样。

文章节选+翻译了本月最重要的一篇论文的内容,《通用人工智能的火花:GPT-4早期实验》

该论文是一篇长达154页的对 GPT-4 的测试。微软的研究院在很早期就接触到了 GPT-4 的非多模态版本,并进行了详尽的测试。

这篇论文不管是测试方法还是测试结论都非常精彩,强烈推荐看一遍,传送门在此 。https://arxiv.org/pdf/2303.12712v1.pdf

《GPT-4 ,通⽤⼈⼯智能的⽕花》论⽂内容精选与翻译

中文翻译全文在此: 《GPT-4 ,通⽤⼈⼯智能的⽕花》

OpenAI GPT4 技术报告

报告链接: https://arxiv.org/abs/2303.08774

GPT-4的发布直接填补了之前GPT系列的跨模态信息生成能力的空缺,GPT-4目前已经可以同时接受图像和文本输入,来生成用户需要的文本。并且OpenAI团队在多个测试基准上对其进行了评估,GPT-4在大部分测试上已经与人类水平相当了。有很多学者分析,GPT-4相比前代的GPT-3.5以及ChatGPT”涌现“出了更加成熟的智能,其内部原因可能是投入了更大的训练数据库和训练算力,真有一些力大砖飞的感觉。但是不可否认的是,GPT-4仍然面临着生成”幻觉“ (Hallucination)的问题,即仍有可能产生事实性错误的生成文本。此外,GPT-4主打的多模态生成模式是否也会进一步带来生成具有政治导向、错误价值观、暴力倾向等内容的风险呢,那么如何灵活的应对这些局限性和风险性,对GPT-4的健康落地也具有非常重要的意义。

原文链接 备份

ChatGPT的强大能力是显而易见的,但对于人工智能领域不太熟悉的人,对这种黑盒的技术仍然会担忧或者不信任。恐惧通常来自于不了解,因此本文将为大家全面剖析ChatGPT的技术原理,尽量以简单通俗的文字为大家解惑。

文章介绍了ChatGPT六个方面的安全部署,包括构建日益安全的AI系统、在实际使用中学习改进安全措施、保护儿童、尊重隐私、提高事实准确性,以及持续研究和参与。