您好,欢迎光临!   请登录 免费注册    
  您的位置:电子变压器资讯网 > 资讯中心 >  电脑周边 > 正文
可能失控?人工智能语言能力提高引发担忧
[发布时间]:2022年7月29日 [来源]:参考消息网 [点击率]:7895
【导读】: 据美联社7月17日报道,如果你向最新的人工智能架构提出这样一个问题:做一台有知觉的计算机或者一只恐龙甚至松鼠是什么感觉这些人工智能的表现可能已经相当令人信服。但在处理其他看似直截了当的任务时,它们...

  据美联社7月17日报道,如果你向最新的人工智能架构提出这样一个问题:做一台有知觉的计算机或者一只恐龙甚至松鼠是什么感觉?这些人工智能的表现可能已经相当令人信服。但在处理其他看似直截了当的任务时,它们的表现就不是那么好了——有时甚至差劲到了危险的程度。
  以生成型已训练变换模型3(GPT-3)为例,这是一个由微软公司控制的系统,可以根据从一个庞大的数字图书和在线作品数据库里学习到的知识,生成一段段类似人写出来的文本。GPT-3被认为是最先进的新一代人工智能算法之一,它能够进行对话,根据需要生成可读文本,甚至生成新的图像和视频。
  除其他本领外,GPT-3可以写出你想要的绝大多数文本——例如一封申请动物园管理员工作的求职信,或者一首以火星为背景的莎士比亚风格十四行诗。然而,当美国波莫纳学院的加里·史密斯教授就爬楼梯向它提出一个简单但显得荒谬的问题时,GPT-3就不知所措了。
  这个人工智能模型回答说:“是的,你可以安全地用手爬楼梯,如果你先把它们洗干净的话。”
  这些强大的、消耗大量能量的人工智能系统在技术上被称为“大型语言模型”,因为它们已经接受了大量文本和其他媒介的训练。这些人工智能系统已经被做成客服聊天机器人、谷歌搜索引擎和为你写完句子的“自动完成”电子邮件功能。但大多数制造这类人工智能系统的科技公司都对这些系统的内部运作方式讳莫如深,外人很难了解那些可能让它们变成虚假信息、种族主义和其他危害源头的缺陷。
  人工智能领域初创企业抱抱脸公司的研发工程师泰旺·勒斯科说:“它们非常擅长写文本,已经达到人类的熟练程度。它们不太擅长的是阐述事实。有时候看起来非常有条理,几乎以假乱真,却是错的。”

  谨防失控风险
  正因如此,由勒斯科等人共同领导的一个人工智能研究团队近日在法国政府的帮助下启动了一个新的大型语言模型。该模型据说是为了解决GPT-3等封闭系统的缺陷。这个团队叫“大科学”,他们的模型名为大科学大型开放多语言模型。它的主要突破在于可在46种语言下工作,包括阿拉伯语、西班牙语和法语——与大多数聚焦英语或汉语的系统不同。
  并非只有勒斯科的团队打算破解人工智能语言模型的黑匣子。脸书和Instagram的母公司元宇宙平台公司也在呼吁采取更开放的方式。该公司正试图赶上谷歌和美国开放人工智能研究中心所打造的系统。
  元宇宙平台公司人工智能部门总经理若埃勒·皮诺说:“我们已经看过一个又一个消息,说人们正在从事此类工作,但都非常不透明,几乎看不到内部情况,也无法窥探这些模型是如何工作的。”
  斯坦福大学计算机科学副教授、基础模型研究中心主任珀西·梁(音)说,建立最能言善辩或信息量最大的系统——并从其应用中获利——所带来的竞争压力是大多数科技公司严格把控这些系统并且不在制定相关规范上展开合作的原因之一。
  梁副教授说:“对一些公司来说,这是它们的秘密配方。”但这些公司也常常担心如果有失控的情况发生,可能导致有人在使用这些系统时不负责任。随着人工智能系统编写健康建议、中学期末论文或政论的能力日益增强,虚假信息可能迅速增加,人们将越来越难以知道这些信息来自人类还是计算机。

  识别“有毒言论”
  元宇宙平台公司最近推出了一个名为OPT-175B的新语言模型,该模型使用了可公开获得的数据——从红迪论坛上的火爆评论到美国专利档案以及安然公司丑闻中的大量电子邮件。
  元宇宙平台公司说,它开放了数据、代码和研发日志,因此外部研究人员可以更容易地通过研究现实中的人们是如何写文章和沟通的来帮助识别和减轻该模型沾染的偏见,纠正其学到的有毒言论。
  皮诺说:“这件事很难。我们敞开自己,准备迎接大量的批评。我们知道,这个模型会说一些我们不会感到自豪的事。”
  虽然大多数公司都制定了其内部的人工智能防护措施,但梁副教授说,现在需要的是更广泛的相关规范,以指导研究和决策,比如何时将新模型公之于众。
  这些模型需要很高的计算能力,以至于只有大公司和政府才能负担得起,这可不是什么好消息。例如,“大科学”项目能够训练其模型,是因为该项目可以访问法国强大的超级计算机“让·扎伊”。
  2018年,谷歌推出一种名为BERT的系统,使用一种将句子中的词语进行比对从而预测语义和语境的技术,这让追求更大、更智能的人工智能语言模型的趋势取得了重大飞跃,并且这些模型可以通过大量文本进行“预训练”。但真正给人工智能世界留下深刻印象的是GPT-3。GPT-3是总部设在旧金山的开放人工智能研究中心在2020年发布的,很快就由微软获得了该模型的独家授权。
  GPT-3带来了创新实验方面的繁荣,因为通过付费获得访问权限的人工智能研究人员把GPT-3当作一个沙盒来测试人工智能的性能——尽管没有关于其训练数据的重要信息。

[上一页] [1] [2] [下一页]

投稿箱:
   电子变压器、电感器、磁性材料等磁电元件相关的行业、企业新闻稿件需要发表,或进行资讯合作,欢迎联系本网编辑部QQ: , 邮箱:info%ett-cn.com (%替换成@)。
第一时间获取电子变压器行业资讯,请在微信公众账号中搜索“电子变压器资讯”或者“dzbyqzx”,或用手机扫描左方二维码,即可获得电子变压器资讯网每日精华内容推送和最优搜索体验,并参与活动!
温馨提示:回复“1”获取最新资讯。