Google开放用户申请与LaMDA模型AI对话机器人聊天

Google在I/O大会上所发布的AI Test Kitchen应用程序,提供一种体验人工智能技术的新方法,现在用户能尝试与采用LaMDA模型的人工智能机器人对话。AI Test Kitchen已经对外开放让有兴趣的用户申请试用,该应用程序会先在Android平台发布,数周后才会在iOS上架,先对美国的小群用户开放。

AI Test Kitchen提供了一系列人工智能实验演示,虽然这些功能并非最终产品,但是能够让用户体验人工智能的各种可能性,目前AI Test Kitchen上推出的第一组演示,是让用户探索最新版本的LaMDA,这是目前Google先进的语言模型之一,能够用于开发聊天机器人。

AI Test Kitchen中称为Imagine It的第一组演示,要求用户命名一个想象或是实际的地方,LaMDA会尝试以文本描述该地方的环境。而List It演示,用户可以分享目标和主题,而LaMDA会深入该主题,将其细分成许多要点。Talk About It演示,让用户和LaMDA进行一个开放式的对谈,但话题围绕在狗主题上。官方提到,用户将能够感受到LaMDA谈论特定主题的能力,即便用户试图偏离话题。

用户在一系列的演示中,能够感受LaMDA具有创造性的回应能力,但同时也可能看到部分LaMDA回应可能不够准确或是恰当,在Google针对该LaMDA模型进行测试之后,发现该模型还是有一些缺陷,像是LaMDA可能会误解身份认同术语背后所代表的意图,或是因为难以区分语气而无法回应,同时LaMDA也可能因为训练资料中的偏见,产生有害或有毒的回应,特别是基于性别和文化背景的刻板印象。

针对这些问题,Google在AI Test Kitchen添加了多层保护,试图将风险降到最低,但仍无法完全消除这些风险。该系统会自动侦测和过滤违反政策的字词和短语,包括露骨色情、仇恨、暴力或非法内容,同时也不会泄露个人资料。除了安全过滤器,Google也强化了LaMDA对话的品质和安全性,并且开发可留在同一话题的技术,产生无止境自由流动的对话护栏。

根据Google的人工智能原则,将外部的反馈纳入于LaMDA改进程序中,用户在AI Test Kitchen的反馈将成为训练资料,Google提到,他们会把每个被评价为好、冒犯、离题或不真实的LaMDA回复,用于未来改进和产品开发上。