谷歌大型语言模型LaMDA： 它可能是有知觉的吗？

 

谷歌LaMDA不太可能被大多数观察者描述为有知觉或有意识。然而，这是一个不可能明确回答的问题。但我们知道，它是最先进的语言系统之一。请看下文，阅读更多关于LaMDA的意识潜力。

为了宣布LaMDA（对话应用的语言模型）的推出，谷歌首席执行官展示了他们作为冥王星的新模型回答问题。LaMDA由谷歌开发，是一种开放式的对话式人工智能应用。在演示中，它在与用户的对话中扮演了一个人或一个物体的角色。根据谷歌首席执行官的说法，LaMDA综合了训练数据中的概念，以方便通过现场对话获得关于任何主题的信息。

LaMDA是如何工作的？

LaMDA建立在Transformer上，这是谷歌用于自然语言理解的开源神经网络架构。在这个平台上建立的模型在众多数据集上进行训练，以寻找句子中的模式，建立单词之间的关联性，并预测下一个单词是什么。Transformer被用来增强机器翻译能力。

LaMDA是有知觉的吗？

一名谷歌软件工程师声称感觉到LaMDA有知觉，他的故事被《华盛顿邮报》发表，并因违反其保密政策而被谷歌安排行政休假。由于在使用 “有知觉 “一词时经常指的是意识，而意识并不是一个定义明确或可证明的属性，因此不可能完全清楚地说明LaMDA是否有知觉。

然而，LaMDA的技能的一个类比是中国房间的思想实验。如果LaMDA通过复杂的数字结构对其阅读过的数十亿行文本进行统计分析，从而产生现实的答案，那么它是否

• 通过复杂的数字结构运行统计分析而不理解语言？
• 理解语言？
• 或者这两件事的意思是一样的？

虽然第一个问题的答案是肯定的，但其他两个问题是可以解释的，因为我们对人类语言认知的理解还不完整。达成答案的方法是询问专家。由于LaMDA没有对公众开放，大多数专家无法形成意见，但WP文章中采访的大多数人（即Margaret Mitchell，谷歌伦理人工智能的前联合负责人，Brian Gabriel，谷歌发言人）都不相信LaMDA的智能性。

LaMDA和聊天机器人之间有什么区别？

聊天机器人和LaMDA是对话式人工智能软件的类型，可以与用户进行对话，向他们提供答案或指导他们完成某个过程。然而，典型的聊天机器人和LaMDA之间有一些区别：

聊天机器人和LaMDA之间的区别

虽然大多数聊天机器人不能进行开放式的对话，但支持人工智能的聊天机器人和语音机器人可以使用自然语言理解（NLU）和处理（NLP）来理解用户的行为和意图，以创造更有意义的对话。

LaMDA和GPT-3之间有什么区别？

GPT-3和LaMDA都是在未标记的文本数据集上训练的。例如，GPT-3是在维基百科和Common Crawl的数据上训练的。

LaMDA在对话训练集上进行训练，以创建一个非通用的、开放式的对话，它是事实的、合理的、与主题相关的。例如，在谷歌2021年的I/O演示中，LaMDA以模仿人类语言和情感的方式介绍了关于冥王星、太空旅行和人们意见的事实。

谷歌团队和代表冥王星的LaMDA之间的对话。

LaMDA可以用来做什么？

直到2021年6月中旬，LaMDA是一个正在进行的项目，还没有使用案例。然而，作为谷歌的产品，LaMDA有可能作为数字助理或搜索引擎与几乎所有其他产品整合。例如，它可能被用于：

• 为谷歌工作空间创建一个虚拟助手
• 在谷歌的搜索引擎中进行导航搜索
• 加强谷歌助理和谷歌家庭的对话和任务
• 现场翻译
• 商业聊天机器人s

此外，项目开发人员提到，他们可能会在不同的数据类型上训练LaMDA，如图像、音频或视频，以获得更多的答案和对话。例如，将LaMDA纳入YouTube，将能够浏览视频并搜索视频中的特定时刻或片段。

LaMDA如何避免偏见？

LaMDA是在从互联网来源收集的各种数据集上训练的，这使得它容易复制今天网上存在的种族主义、性别歧视或有偏见的内容。由于算法或训练数据中可能存在偏见的假设，以前在亚马逊的招聘工具和Facebook广告中观察到了AI偏见。

为了减轻人工智能的偏见，LaMDA的项目团队建立并开源了：

• 用来分析模型的资源
• 训练数据

这样一来，不同的群体可以参与创建训练数据集，并识别现有的偏见，以创建一个更有道德的人工智能。

我可以看到LaMDA的行动吗？

这里是演示视频，LaMDA在假装成冥王星和纸飞机时回答问题：

它仍在开发中，所以它还没有准备好供开发者实验使用。

关于对话式人工智能的更多信息

要了解对话式人工智能背后的技术，请随时阅读关于系统如何：

• 通过意图识别来识别用户想要什么
• 通过自然语言处理（NLP）和自然语言生成（NLG）创造有意义的答案