您可能听说过一种名为 GPT3 的创新语言模型。炒作是如此压倒性,我们决定研究其核心和对技术参与者的后果。让我们来探讨一下这门语言是否值得如此关注,以及是什么让它如此与众不同。
什么是 GPT-3?主要事实
GPT-3 是一个生成神经网络的文本,于 2020 年 6 月发布,测试价值 1400 万美元。它的创建者是人工智能研究机构 OpenAI,由山姆·奥特曼、马克·贝尼奥夫、伊隆·马斯克和里德·霍夫曼领导。
该语言基于 1.75 亿个参数,并且比其前身准确得多。例如,GPT-2 只有 15 亿个参数,而微软图灵 NLG – 其中 170 亿个参数。因此,GPT-3的功率大大超过替代品。
参数是什么?
参数是将特定权重应用于数据不同方面的网络计算。因此,每个数据方面都会收到其价值和数据视角。由于大量的数据,语言能够进行元学习。这意味着 GPT-3 可以在无需任何培训的情况下完成任务,从单个示例中完成。
OpenAI GPT-3 由于其基于上下文的性质,也具有一些先进的创意能力。一旦用户提出请求,语言将分析该请求并提供最可能的答案。文本预测器处理 Internet 上存在的所有文本,计算统计上预期最多的输出。
因此,GPT-3非常强大,没有理解它产生的一个单词。无需特定的调优和调整,该语言可以撰写故事、博客文章、公关材料,甚至技术文档。大多数时候,输出感觉与人类所写的非常相似。
在另一个实验中,用户只输入了标题和文章摘要,并收到了一篇超出他期望的完整文章。
从简单的数据点列表中产生的十几个业务想法如何?
甚至可以以其标题和艺术家的名字制作一首歌。
所有这些可能听起来像是幻想,尽管这些都是GPT-3应用程序的真实示例。
目前,GPT-3 在私有测试版中作为 API 提供。设计师乔丹·辛格使用GPT-3构建一个菲格玛插件,并称其为”设计师”。该插件可以从一个简单的设计描述生成应用程序设计。下面是如何使用此 API 创建 Instagram 的示例:
令人振奋,你可能会想。GPT 会取代我们的工作吗?那么,只要NLP语言的发展继续下去,一些变化是不可避免的。然而,GPT-3语言仍然离完美太远。它确实犯了一些严重的错误,我们将在下面研究。
编程呢?GPT-3 会杀死编码吗?
最近使用的语言实验证明,AI 可以通过生成自定义代码来简化开发人员的工作。例如,以下是谢里夫·沙梅姆如何自动调整 OpenAI 语言,以从简单的请求生成各种布局:
GPT-3 可以在 Python、CSS、JSX 中编写代码。最终,学习 Java、.Net 和其他语言可能变得没有必要,因为所有情况下都将有一种编码语言。作为程序员的通用工具,GPT-3 是向软件系统进行这种简单交互的又一步。从长远来看,它可能会改变整个行业。
关于GPT-3作用的不同看法com/将大肆炒作的gpt-3影响编码器/”rel=”nofollow”-在最近的一次采访中,Shameem说,它可以减少成为程序员所需的技能。或者,它还可以提高他们的生产率,并消除对低技能工程师的需求。
没有丑陋就没有好
在你被新闻淹没之前,让我们来概述一下这种语言的弱点。尽管GPT-3语言是智能人工智能的一个逻辑进步,但它在对抗性自然语言推理(NLI)方面缺乏准确性。NLI 测试的目标是查找两个语句之间的关系。
一项研究表明:”GPT-3在涉及比较两个句子或片段的一些任务中,GPT-3似乎很弱,例如,一个单词在两个句子(WiC)中是否以同样的方式使用,一个句子是否是另一个句子的转述,或者一个句子是否意味着另一个句子。
语言缺乏人类的理解和常识。一些错误包括种族主义和不容忍。例如,自动生成的推文形式为”黑色”,是:”黑色是白色,向下是向上”和”#blacklivesmatter是一个有害的运动”。
用户回复预测通常是错误的或语法不正确的。与人类不同,该系统缺乏对上下文的深刻理解,有时无法响应异常请求。
因此,我们可以总结一下,分析数 TB 的数据不足以找出潜在的人类意图。换句话说,围绕GPT-3的炒作有点过头了,因为还有许多工作要做。
就连 OpenAI 的首席执行官也同意这种说法。然而,语言是自然语言处理的一大进步。
总结
围绕GPT-3语言的炒作可以用其人性化的反应和快速学习能力来解释您可以要求它执行任务并立即获得答案。对于数据科学家来说,这是一个相当大的增强,至少目前是这样,这让他们像没有其他工具一样兴奋。