网易首页 > 网易科技 > 网易科技 > 正文

OpenAI发布完整版自动文本生成系统 专家担忧被滥用

0
分享至

网易科技讯 11月8日消息,据外媒报道,人工智能研发组织OpenAI日前发布了其完整版的自动文本生成AI系统,专家警告称该系统可能被用于恶意目的。

OpenAI最初在今年2月宣布了名为GPT-2的系统,但由于担心它会被用来传播假新闻、垃圾邮件和虚假信息,因此保留了该程序的完整版本。但该机构发布了不太复杂的GPT-2简化版本,借此研究人们对其接受情况。OpenAI现在表示,该组织没有看到GPT-2“被滥用的确凿证据”,为此决定发布其完整版本。

GPT-2是新一代文本生成系统的一部分,这些系统给专家留下了深刻印象,它们能够从最少的提示中生成连贯的文本。该系统接受了从网上抓取的800万份文本文档的培训,并对用户提供的文本片断作出响应。例如,给它个假标题,它就能写出新闻报道;给它一首诗的第一行,它就能续写整首诗。

要弄清楚GPT-2的输出有多好有点儿困难,但该模型经常产生既令人害怕又令人信服的文字,这些文字常常会给人一种充满智慧的感觉。不过,随着使用这个系统的时间足够长,它的局限性也变得很明显,尤其是其面临长期一致性的挑战。例如,在故事中始终如一地使用同样的人名或坚持某个角色独有的个性。

除了推出GPT-2的更多原始功能外,该模型的发布也是关于AI研究人员减轻其工作造成伤害的责任的持续辩论的一部分。专家指出,容易获得的尖端AI工具可能也更容易滥用。例如,我们已经看到使用深度伪造(deepfakes)来生成复仇色情内容的趋势。由于这种担忧,OpenAI限制了其模型的发布。

然而,并不是每个人都对OpenAI的做法表示欢迎。许多专家批评这一决定,称此举限制了其他人可以为减轻该模型危害而进行的研究,而且它也引发了关于“AI危险”的不必要炒作。研究人员Delip Rao曾说:“‘太危险’这个词在没有经过深思熟虑或实验的情况下就被随意抛出了。我不认为OpenAI花了足够的时间来证明GPT-2真是危险的。”

在本周发布的完整版中,OpenAI指出,GPT-2可能被误用,该组织还援引第三方研究称,该系统可能有助于对极端意识形态立场进行“广泛宣传”。它也承认,担心该系统会被用来产生大量连贯的垃圾邮件,使社交媒体等在线信息系统不堪重负,但这些担心尚未成为现实。

OpenAI还指出,其研究人员已经创建了自动系统,可以约95%的准确率识别GPT-2的输出内容,但这个数字还不够高,不足以进行“独立检测”,这意味着任何用于自动识别假文本的系统都需要与人类审核人员配合。这类合作并不罕见,因为这些任务经常依赖于人类来识别假图像和视频。

OpenAI表示,它将继续观察GPT-2如何被社区和公众使用,并将进一步制定其负责任AI研究的政策。(小小)

相关推荐
热点推荐

1.9万亿美元刺激计划获通过,美股大逆转,全球股市稳了吗?

郭施亮
2021-03-08 08:19:18

福原爱婚变内幕曝光:从天才少女到二胎妈妈,原来她的后台这么硬

洞见
2021-03-07 22:02:14

厦门一对小夫妻离婚,女方要求拿回父母赠送的轿车及百万存款,结果婚前婚后大不同

民生观点
2021-03-08 12:45:37

LPL顶级AD沦落没人要?LDL场场1打5,网友评价真实:影响平衡!

健哥梨姐
2021-03-07 01:58:47

天佑上线,4864重归!二驴下跪猛磕头!惨遭20多人群殴!二驴宣布永久退出八卦界!

网红搞笑趣事
2021-03-08 10:27:35

再见了,张艺谋,再见了,周星驰,中国已迎来新“四大导演”时代

皮皮电影
2021-03-05 14:54:48

国博0001号文物,沾着谁的血……

长安剑
2021-03-07 16:36:21

陈丹青:我没读过莫言的作品,但我知道,诺贝尔奖与他的作品无关

老李文化人
2021-03-08 12:04:45

中方寸步不让后,仅3天,美国防部火速道歉,轮到日本跳脚了

齐鲁前沿
2021-03-04 11:42:08

李大霄:还会有牛市吗

功夫财经
2021-03-08 10:36:01

曹操杀了杨修后,问其父杨彪为何瘦了,杨彪回怼一句后成为口头禅

大山的脚下
2021-03-06 00:02:35

某村:田地如不耕作,将收回...

汕头今日早说
2021-03-07 18:47:48

一家人在海上惨遭灭门,凶手没想到,11岁的她能逃出生天

五彩斑斓的世界
2021-03-08 04:23:28

欧七公!欧文全明星赛手持打狗棒进场,杖不离手于人群中自由穿梭

818体育
2021-03-08 08:42:16

台湾面临缺水危机,民进党当局真的开始祈雨了

环球网资讯
2021-03-08 11:09:41

一死一伤!洛杉矶华人区游民拳打脚踢华裔老夫妇,凶手罪行累累!

华人生活网
2021-03-08 09:31:34

消息人士称:威廉和查尔斯深感悲痛,如果各退一步本可以不这样的

谈点世
2021-03-08 10:40:58

美国人大失所望,拜登竟来这手,西媒大胆预测:中国将是最大赢家

祁连军武
2021-03-07 12:22:11

他干了35年门童,退休时公司决定:让他以副总裁的身份和待遇退休

键盘小马达
2021-03-08 11:06:16

刘德华表示再也不想合作,郑佩佩吐槽:她丢光了香港演员的脸

八姐论八卦
2021-03-08 09:41:27
2021-03-08 14:41:06

科技要闻

体验总结|一年多卖百亿元的理想ONE怎么样

头条要闻

中国是否要争夺世界主导权?傅莹回应四个问题

头条要闻

中国是否要争夺世界主导权?傅莹回应四个问题

体育要闻

勒布朗打酱油 这俩新队友出尽风头

娱乐要闻

容祖儿穿比基尼上衣配纱裙 甜又酷

财经要闻

汽车要闻

车长超5米/配Meridian音响 起亚推K8车型

态度原创

亲子
艺术
健康
旅游
手机

亲子要闻

“生女家庭”不再吃香?未来会面临4个问题

艺术要闻

2021春拍征集有何新看点

“驻颜”小心机让你拥有水嫩肌

旅游要闻

不为人知的黑冲村 就在云台山的深处

手机要闻

雷军:尊重知识保护创新 打击商标恶意注册和囤积

×