预测人工一般智能的未来

CBS新闻和CNET高级制片人Dan Patterson采访了世界经济论坛主任Murat Sonmez，介绍了人工综合智能的未来。 以下是经过编辑的采访记录。

穆拉特·桑梅兹：很难预测。 许多像OpenA I这样的倡议都在用微软的10亿美元投资来解决这个问题。 问题是，在那之前，我们做了什么？ 因为这些威胁-这些算法-不是人类写的，它是从数据中派生出来的，我们需要确保数据足够多样化，它不会放大我们在这个社会中已经存在的偏见，它来自真实的来源，而不是假数据。

假设我们有它，但也有一个真正的机会，这些算法将做一些有害或不道德的事情，因为我们没有控制它。 问题是，我们如何防止它危害社会？

我们回顾了技术史和工业革命，并说：“这个问题以前解决过吗？” 当我们从蒸汽变成电的时候。 工厂在19世纪末、20世纪初采用了电力，由于电压没有调节，它引起了各种火灾。 的保险公司受够了赔偿损失，他们发现了由爱迪生发明的断路器，但没有标准，所以他们创建了承销商实验室，一个俘虏的身体，他们告诉工厂老板，‘如果你不使用UL认证的断路器，我们就不会为你投保。’ 这就是我们在世界上有安全电力的原因。 这就是拍摄和广播的方式。

我们说，我们能做同样的事吗？ 我们有一个伦理转换的概念，在这里定义他们的伦理规则。 我们把这些规则下载到智能设备上。 当他们被要求做一些有害的事情时，开关会说不。

制造商喜欢它，因为它给了他们一个安全的方法来规模技术。 政府喜欢它，因为它给了他们一种尽量减少伤害的方法。 保险公司喜欢它，因为他们可以写保单来强制使用这种道德转换。 在AGI发生之前，我们希望为有害的行为创建断路器。