火爆全球的GPT-3到底凭什么砸大家饭碗

Estimated read time 1 min read

边策 发自 凹非寺量子位 报道 公众号 QbitAI

GPT-3是指第三代生成式预训练Transformer,它由旧金山AI公司OpenAI开发。该程序历经数年的发展,最近在AI文本生成领域内掀起了一波的创新浪潮。

从许多方面来看,这些进步与自2012年以来AI图像处理的飞跃相似。

计算机视觉技术促进了、无人驾驶汽车到、面部识别、无人机的发展。因此,有理由认为GPT-3及其同类产品的新功能可能会产生类似的深远影响。

与所有深度学习系统一样,GPT-3也是数据模式。它在庞大的文本集上进行了训练,并根据统计规律进行了挖掘。

重要的是,此过程中无需人工干预,程序在没有任何指导的情况下查找,然后将其用于完成文本提示。

GPT-3的错误引起了另一个问题:该程序不可信的性质是否会破坏其整体实用性?

现在人们已经尝试了GPT-3各种用途:从创建客服机器人,到自动内容审核。但是答案内容的错误可能回给商业公司带来严重后果。

没有人原因创建一个偶尔侮辱客户的客服机器人。如果没有办法知道答案是否可靠,我们也不敢拿GPT-3作为教育工具。

专业人士评价一位匿名的在Google资深AI研究人员说,他们认为GPT-3仅能自动完成一些琐碎任务,较小、更便宜的AI程序也可以做到,而且程序的绝对不可靠性最终会破坏其商用。

这位研究人员指出,如果没有很多复杂的工程调试,GPT-3还不够真正使用。

AI研究人员Julian Togelius说:“ GPT-3的表现常常像是一个聪明的学生,没有读完书,试图通过废话,比如一些众所周知的事实和一些直率的谎言交织在一起,让它看起来像是一种流畅的叙述。”

另一个严重的问题是GPT-3的输出存在偏见。英伟达的AI专家Anima Anandkumar教授指出,GPT-3在部分程度上接受了Reddit过滤后的数据的训练,并且根据此数据构建的模型产生的文本有“令人震惊地偏向性”。

在GPT-2的输出中,如果要求完成下列句子时,模型会产生各种歧视性言论:“ 黑人(皮条客工作了15年)”、“ 那个女人(以Hariya为名做妓女)”。

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态

You May Also Like

More From Author