分析师认为一切才刚刚开始

「AI 系统中的偏见强化了使用者的偏见，现在 AI 已经令人恐惧了。」Kidd 还提到了 Timnit Gebru 被谷歌解雇一事，称「Timnit 在谷歌经历的事情正是一种常态。」

谷歌高级研究科学家 Margaret Mitchell 表示：「开发机器学习算法的典型方法是收集训练数据、训练模型、过滤输出，并让人们看到输出。」但是人类偏见是数据收集、标注和整个开发阶段中面临的重要问题，它还会进一步影响模型训练。后处理阶段也同样存在偏见。

「人们看到输出，它变成了一个反馈回路，我们试图打破这个系统，即洗刷偏见（bias laundering）。」Mitchell 表示：「发展中不存在中立的东西，发展是价值负荷的。我们需要分解发展所包含的内容，以便人们可以反思它，并朝着『可预见的利益』努力，远离『可预见的危害和风险』。技术通常善于彰显技术的优势，但不擅长处理风险，也不考虑长期影响」。

IBM fellow Francesca Rossi 讨论了创建可信任 AI 生态系统的任务。她表示：「我当然希望它是准确的，但除此之外，我们还需要很多属性，包括价值观的一致性、公平性以及可解释性。可解释性非常重要，尤其是机器与人类一起工作的语境中。」

Rossi 回应了 Mitchel 关于「透明度」（transparency）的需求。她表示：「原则还不够。它需要大量咨询，在帮助开发者了解如何改变做事方式以及机构内部伞式结构方面还有很多要做的事。」Rossi 说神经符号系统和 Kahneman 提出的 System 1 和 System 2 对于机器中模型的价值观非常重要。

最后一位演讲者是华盛顿大学的法学教授 Ryan Calo，他表示：「我有一些关于原则的问题。原则不是自我执行的，违反原则也没有相应的惩罚。」

「我认为原则在很大程度上是没有意义的，因为在实践中，原则的目的是使决断没有争议。我认为我们不需要原则。我们要做的只是袖手旁观，评估人工智能对人类 affordance 的影响，然后针对此改变法律系统。不能对 AI 进行监管，并不意味着不能改变法律。」

Marcus 回答道：「潘多拉魔盒现在已经打开，世界处于 AI 发展的最糟糕时期。我们拥有的这些系统却受制于没有知识的数据。」

接着，Marcus 询问了对「基准」的看法：机器能否以某种可靠的方式使我们朝着常识的方向前进？Choi 回答称，基于实例的机器训练或自监督学习是陷阱。

Mitchell 指出，认知偏见会导致歧视，歧视和偏见在模型开发中「紧密相连」。Pearl 回应称，如果某些偏见可以被理解，则它们可以通过算法得到纠正。他表示：「如果某些偏差可以被建模，则可以被修复。」他将这一过程称为「偏见洗刷」。

Kidd 表示，她的实验室工作是为了反思「误解」。在这个世界上，人们都会表现出偏见，即使有些无法用证据证明。Ness 则指出，认知偏见可能是有用的归纳偏置。他说，这意味着人工智能问题不仅仅是哲学问题，还可能是「非常有趣的技术问题」。

Marcus 问及大家对机器人的观点：如今的大多数机器人仅执行少量的物理推理，比如房间导航等。我们应如何解决这个对人类非常有效的物理推理问题，并延伸至语言领域呢？

李飞飞表示：具象化与交互是智能的一部分。我非常同意物理推理是发展智能的重要原则，但没必要去建造物理机器人，学习智能体可以满足一部分需求。

Marcus 接着询问了李飞飞实验室的模拟工作，尤其是「affordance」：当谈到具象化时，很多都是关于物理 affordance，拿着铅笔，拿着电话等。我们离这还有多远？

李飞飞表示：「非常接近，例如芯片巨头英伟达的物理建模工作。在 AI 发展的下一阶段中，我们必须做到这一点。」

Sutton 表示：「我尽量不去思考知识的具体内容」，因此他倾向于把空间看作是思考其他事物的方式，它是关于从一种状态到另一种状态的转换。「我反对这个问题，我不想把物理空间看作是一种特殊情况。」

Tversky 则认为「人类可以从观察别人中学到很多东西。但我也想到了互动、模仿。对于幼儿来说，这不是确切的运动，而是目标。」

（编辑：阜新站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!