关于2021年软件开发趋势的预测

Kahneman 认为，System 1 包含了任意非符号事物，但这不意味着它是非符号系统。System 1 包含世界的表征，由此人们可以模拟自身生活的世界。大多数时候，人们都一成不变地生活着，发生的事情大多在我们的意料之中。System 1 模型将很多事件认定为「正常」，即使出乎意料之外。System 1 拒绝接收其他事件。紧接着 Judea Pearl 的观点，Kahneman 表示大量的反事实推理都在 System 1 中，其中对正常事物的天然理解主导着这种推理。

随后发言的是加州理工学院的生物学教授 Doris Tsao。她主要讲了反馈系统，回顾了早期关于麦卡洛克和匹兹（McCulloch and Pitts）神经元的研究工作。通过引用多层神经网络中的反向传播，她认为反馈至关重要。理解反馈或许能令人们构建鲁棒性更强的视觉系统，并且反馈系统也有助于理解幻觉等现象。最后，她表示自己对机器学习和系统神经科学的交互非常兴奋。

接下来是 MIT 的 Adam Marblestone，他先前是 DeepMind 的研究科学家，从事神经科学研究。他认为观察大脑并试图总结出大脑运行的原理，这些「到现在还处于非常原始的水平」。此外，他还认为卷积神经网络等不过是在复制人类行为罢了。

西雅图艾伦脑科学研究所研究员 Christof Koch 则断言：「不要指望神经科学来帮助人工智能的发展」。他认为了解大脑还需要一两百年的时间，所以从大脑机械基质中寻求灵感来加速 AI 发展是错误的，这与 Marblestone 的观点形成了鲜明对比。他表示：「这与人造物体的特性完全不同。」

对此，Marcus 提出了更多问题，如「多样性」。大脑皮层的单个部分能够让人们了解其他部分的什么属性呢？

Tsao 回答道，「相似性」更令人印象深刻，它可能揭示了大脑运行的真正深层的普遍原则。预测编码是一种「规范模型」，可以解释很多事情。「寻求这种普遍原则将产生重大影响。」

关于这一点，Koch 表示，细胞类型「大不相同」，例如视觉神经元与前额叶皮质神经元非常不同。

Marblestone 认为「需要更好的数据」，以便「从实证角度理解 Christof 谈论的计算意义。」

Marcus 还就「先天性」（innateness）进行了提问。他询问了 Kahneman 对「目标文档」（object file）的看法：「你脑海中用于记录自己正在追踪的每件事情的索引卡，它是天生的架构吗？」

Kahneman 回答道，「目标文档」是大脑追踪物体过程中产生的永久性概念。他将其比作警方档案，在收集证据的过程中内容会因时而变。所以，目标文档「当然是天生的」。

Marcus 则认为深度学习中没有对等的「目标文档」。

构建可信任的 AI

此次辩论的第三个主题是「构建可信任的 AI」，Ryan Calo、Celeste Kidd、Margaret Mitchell 和 Francesca Rossi 各自发表了自己的观点。

加州大学伯克利分校教授 Celeste Kidd 所在实验室主要研究人类如何形成认知。Kidd 表示算法偏见是很危险的，它们「有时会以破坏性的方式影响人类认知」。她以内容推荐的 AI 系统为例，认为此类系统会使人们形成「更强大的、难以纠正的错误认知」。比如亚马逊和领英利用 AI 进行招聘，可能对女性候选者造成负面影响。

（编辑：阜新站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!