我们需要就哪些任务需要掌握在公众手中和退出市场进行更深入的辩论。----玛丽埃特•舍克（Marietje Schaake）

在AI论坛上，专家表示，超人机器智能的到来将是人类历史上最大的事件之一。
斯坦福大学人类中心人工智能学院秋季会议提出了一个基本主题：人工智能必须对人类真正有益，并且不能在效率低下的情况下损害人们的利益。

该活动名为AI道德，政策和治理，聚集了来自学术界，行业，公民社会和政府的900多人，讨论了AI（或能够执行通常需要人类智能的任务的自动计算机系统）的未来。
会议上的讨论强调了世界各地的公司，政府和人们如何应对AI的道德，政策和治理影响。

扩大人类经验

斯坦福大学商学院技术经济学教授苏珊•阿西（Susan Athey）和HAI斯坦福大学的教务副主任谈到了人工智能对经济的影响。她说，至关重要的是，人工智能将创造共同的繁荣，并扩大而非取代人类在生活和工作中的经验。毕竟，人类以某种难以理解的方式理解人工智能。她补充说，我们如何组织和考虑人与机器工作的未来很重要，因为它们都是相互联系的。

Athey说：“当我们深入应用程序并了解整个垂直领域，实现过程中的所有内容时，包括AI的道德规范和人们的感受，人工智能的真正好处就会显现出来。”

麻省理工学院数字经济倡议组织的负责人埃里克•布林约尔夫森（Erik Brynjolfsson）表示，打造AI的公司除了需要引人注目的技术外，还需要关注人类这一方面。“我们首先需要了解我们的价值观，这样我们才能了解如何最好地使用这些技术。” 他说，有必要从人工智能如何适应人类文化的角度重新考虑整个组织和业务流程。

其他小组成员讨论了公共实体和私营企业在监管AI方面的作用。
谷歌前首席执行官，Alphabet Inc.技术顾问埃里克•施密特（Eric Schmidt）与欧洲议会荷兰议员马瑞埃特•舍克（Marietje Schaake）进行了交谈，他在欧盟对大技术的监管中发挥了作用，并且是斯坦福大学网络政策中心的国际组织政策总监。

施密特指出，道德与人为决定与AI决定的组合方式息息相关，他说，在像中国这样的国家正在使用AI技术压制和监督自己的人民的时代，“自由，西方的价值观”对支持至关重要。他说：“我们要确保我们正在构建的系统是建立在我们的价值观，人类价值观之上的。”

沙克（Schaake）敦促全球决策者应对AI政策和法规采取面向公民的方法，而不是遵循更面向公司用户的框架。她主张对科技公司如何使用大数据以及对个人的隐私保护进行更严格的监管，并敦促就人工智能而言，监管应该早于而不是晚进行。

她说：“我们需要就哪些任务需要掌握在公众手中和退出市场进行更深入的辩论。”

伦理，地缘政治与多样性

LinkedIn的联合创始人里德•霍夫曼（Reid Hoffman）谈到了他的“闪电缩放”概念，这是硅谷公司学到的用于快速发展创新的一套技术。霍夫曼说，这应该在具有道德感和责任感的同时在人工智能中发生。

例如，当快速发展的公司为未来做计划并快速建立其工程或销售能力时，他们还需要预见风险以及在未来的道路上可能出什么问题。这意味着需要聘用了解风险和道德规范的人员，并为公司开发具有道德意识的风险框架。

在医疗保健和疾病领域，虔诚健康技术负责人DJ Patil指出，人工智能如何在治疗人和挽救生命方面具有巨大的前景：“我们需要以最大的扭曲速度来帮助那些人。” 面临的挑战是如何将这些疗法和治疗方法迅速推向市场，同时还要遵守必要的医疗保健保障措施和道德规范。

Patil还呼吁在全球数据共享方面进行更多合作。“我们有气候变化，有可能爆发大流行。我们需要的是更好的国际框架，条约机制，以跨地区界共享数据，以便我们可以实际处理人类问题。”

人工智能与国家安全

在由弗里曼•史波格利国际研究学院和胡佛研究所高级研究员艾米•泽加特（Amy Zegart）主持的一次人工智能和地缘政治学分会上，小组成员分析了人工智能的性质，人工智能在国家安全，情报和安全系统中的作用，以及它如何影响战略稳定性或不稳定。

关于后者，斯坦福大学国际安全与合作中心联合主任科林•H•卡尔（Colin H. Kahl）提出了以下担忧：如果某些国家迅速采取行动，人工智能是否会加剧世界上最强大国家之间的经济紧张关系并改变全球军事力量平衡？而其他人则落伍了。他提到的另一个担忧是有人可能会使用具有AI功能的网络武器打击核指挥和控制中心。

Zegart补充说，当情报专家分析和筛选数据时，机器学习可以帮助减轻认知负担，而如今这些数据正在以更快的速度生成。挑战在于组织，因为官僚机构采用改变游戏规则的技术的步伐很慢。