应用

技术

物联网世界 >> 物联网新闻 >> 物联网热点新闻
企业注册个人注册登录

大学生用GPT-3工具编写虚假博文 并成功登顶Hacker News

2020-08-17 11:41 cnBeta.COM

导读:程序在没有任何指导的情况下寻找和发现模式,然后利用这些模式来完成文本提示。

援引外媒 MIT Technology Review 报道,大学生 Liam Porr 使用语言生成 AI 工具 GPT-3 生成了一篇假博文,并登上了 Hacker News 的榜首。Porr 试图证明,GPT-3 制作的内容可以骗取人们的信任,让人们相信它是由人类编写的。而且他还表示:“这实际上超级容易,这才是最可怕的地方。”

GPT-3 是由总部位于旧金山的 OpenAI 设计的一系列人工智能自动完成工具,已经推出有数年之久。其中“GPT-3”代表的是“generative pre-trained transformer”(生成式预训练转化器),根据人类作家的提示自动完成文本。

它的工作原理如下

就像所有深度学习系统一样,GPT-3 会在数据中寻找模式。为了简化操作,该程序已经在一个巨大的文本语料库上进行了训练,并对其进行了统计规律性的挖掘。这些规律性对人类来说是未知的,但它们被存储为GPT-3的神经网络中不同节点之间的数十亿个加权连接。

重要的是,在这个过程中不涉及人类的输入:程序在没有任何指导的情况下寻找和发现模式,然后利用这些模式来完成文本提示。例如,你在 GPT-3 中输入单词“fire”,程序就会根据网络中的权重,就会接“truck”和“alarm”等单词,比“lucid”或“elvish”更有可能出现。

在 Porr 的博客文章中展示了一个样本,标题为《Feeling unproductive? Maybe you should stop overthinking》(感觉没有效率?也许你应该停止过度思考)。

Definition #2: 过度思考(OT)是指试图提出已经被别人想好的想法的行为。OT 的结果通常是不切实际的、不可能的、甚至是愚蠢的想法。

Porr提交了申请。他用简单的问卷填写了有关其预期用途的表格。但是他也没有等待。在接触了伯克利AI社区的几位成员后,他迅速找到了已经可以使用的博士生。

研究生同意合作后,Porr编写了一个小脚本供他运行。它为GPT-3提供了博客文章的标题和简介,并吐出了几个完整的版本。

Porr的第一篇文章(在Hacker News上登载的文章)以及其后的每篇文章都是其中一项输出的直接复制和粘贴。

他说:“从我想到这个主意并与博士生接触以来,我实际上创建了博客,并且第一个病毒式传播的博客-花费了几个小时。”

无需编辑即可生成内容的诀窍是了解GPT-3的优点和缺点。Porr说:“它擅长于编写漂亮的语言,而并不擅长于逻辑和理性。” 因此,他选择了一个受欢迎的博客类别,该类别不需要严格的逻辑:生产力和自助。

Porr 表示,他想证明 GPT-3可以作为人类作家被假冒。确实,尽管该算法的编写模式有些怪异,并且偶尔会出现错误,但是在他对Hacker News的最高帖子发表评论的数十个人中,只有三到四个人怀疑它可能是由算法生成的。所有这些评论都立即遭到其他社区成员的反对。

Porr 说,他的实验还显示了一个更为平凡但仍令人不安的替代方案:人们可以使用该工具生成大量的点击诱饵内容。他说:“可能会有大量平庸的博客内容,因为现在进入的障碍是如此的容易,” “我认为在线内容的价值将大大降低。”