人工智能真正的危险是人类的偏见 而不是邪恶的机器人-当前播报

理查德索彻，四处走走。他是人工智能初创公司MetaMind的创始人。在2016年被Salesforce收购之前，他从Khosla Ventures和其他公司获得了超过800万美元的风险投资支持。在此之前，他在斯坦福大学计算机科学系担任兼职教授。他还获得了博士学位。他获得了莱比锡大学的学士学位和萨尔大学的硕士学位。)2007年，Socher成为在语义机器人视觉挑战赛中获得一等奖的团队成员。他在组装ImageNet中发挥了重要作用，ImageNet是一个公开可用的注释图像数据库，用于测试、训练和验证计算机视觉模型。

(资料图片仅供参考)

Socher -现在是Saleforce的首席数据科学家-长期以来一直被自然语言处理领域所吸引，自然语言处理是计算机科学的一个子领域，涉及计算机和人类语言的交互。他的论文表明，深度学习——一种松散模拟人脑神经元的分层数学函数——可以同时解决几种不同的自然语言处理任务，从而避免了开发多个模型的需要。2014年，MetaMind使用了一些相同的理论原理，他和一个工程师团队制作了一个模型，以实现ImageNet上最先进的精度。

毫无疑问，2017年，世界经济论坛称他为“人工智能和深度学习空间的神童之一，他的突破性技术正在改变自然语言处理和计算机视觉。”

在Salesforce，Socher管理着一个研究人员团队，他们积极发表关于问答、计算机视觉、图像字幕等人工智能核心领域的论文，并每年与斯坦福大学的研究生级自然语言处理和深度学习课程合作一次。上周在蒙特利尔举行的NeurIPS 2018会议上，他慷慨地自愿与VentureBeat就现有的人工智能系统、Salesforce在研究领域的作用以及人工智能的进展(或缺乏)进行对话。也就是人类的AI。

这是我们采访的编辑记录。

VentureBeat:对Salesforce来说，这是忙碌的一年。我看到的爱因斯坦为今年早些时候做出的10亿个预测提供了40亿个预测，它正在慢慢成为你投资组合中几乎所有产品的一部分。不久前，你们宣布了爱因斯坦语音平台，并为爱因斯坦机器人提供了通用商用机器人。所以也许我们可以从那里开始。

对话越来越成为消费者生活的一部分。显然，Salesforce将其视为您业务中非常重要的一部分。那么未来会是什么样子呢？

理查德索彻：我认为，如果你愿意，我们成为瑞士人对许多人工智能工作来说非常重要，因为我们的客户在许多不同的地方。在Salesforce中，我们认为这不仅是我们客户的需求，也是他们的客户在B2C能力中的需求。这就是为什么我们试图支持所有这些不同的框架和平台——比如Alexa和Google Home。

同时，我们希望实现对企业的许多要求，因此在我们有很大实力的领域建立自己的[解决方案]也是有意义的。例如，服务是我们在商界非常熟悉的东西。我们努力让所有客户——超过15万家公司——从人工智能中受益，就像这些拥有数十亿美元研发资金的大公司一样；d预算从中受益。这就是为什么我对我们拥有的平台思维感到兴奋。我们真的想让这些技术民主化。

事实证明，大公司想要一项服务，他们希望支付SLA并获得服务级别协议、正常运行时间保证、支持和所有这些服务。只是把一些开源代码放在某个地方没那么有用。为了让许多不同规模的公司的人工智能民主化，你必须把它作为一种服务来提供。当然，我们从我们认为最有用的软件包应用程序开始，所以我们的客户不必乱搞任何东西。但我们也希望管理员可以轻松创建自己的AI功能。

VentureBeat:您刚刚提到了开源技术涉及的一些挑战。合规是其中之一吗？

索彻：你提到这个很有意思。我们的银行客户看到了我们的爱因斯坦语音系统的第一个版本，它使用了消费者API，他们中的一些人说他们不能使用它，因为[API]。

我们使用的更大的语音系统中的一个模型是语言模型，它试图预测句子中的下一个单词，以帮助自动完成事情。现在，如果你从客户那里得到数据，他们说“X公司正在收购Y公司”，那么这将成为培训数据的一部分。麻烦的是，这是非常敏感的信息，如果通过自动更正，以某种方式无意中显示给用户，显然是一件坏事。

我想说的是，我能理解为什么银行和其他企业喜欢使用私有数据保险，而不愿意使用消费者API，因为他们的数据成为一个大池的一部分。每个公司都有自己的术语和私有数据，让他们觉得可以控制自己想在语音识别系统中使用的词汇是非常重要的。

冒险吃：不要太依赖他们的顺从。我不是建议一个简单的解决方案，但是你有没有关注过加密的发展，比如英特尔的HE-Transforme？

Socher：我其实很喜欢。这很有趣 - 这里有两个相互竞争的想法。一方面，你可能会说AI已经足够困难了。为什么我们应该通过加密数据使其变得更难?毕竟，大脑首先不加密，然后尝试访问它。

但你也可以说我们现在需要隐私。信任是Salesforce的头号价值。我们希望使这些系统更好，并且可能通过加密数据使它们稍微恶化。但是，你可以做更多的数据共享，结果可能产生一个最终做得更好的系统。