XDA智能手机网 - 第一智能手机评述媒体
科技您的位置:首页 >科技 >

人工智能方法的伯克利混搭承诺不断学习

发布时间:2019-03-01 17:47:46 来源:

有时,人工智能的进步是多年来取得进展的特定研究途径的综合效应的结果。

最近伯克利大学人工智能实验室,特别是谢尔盖·莱文教授和同事切尔西·芬恩博士以及领先的机器学习理论专家Sham Kakade和他的学生Aravind Rajeswaran进行了一些非常有趣的工作。 ,在华盛顿大学。

您可能对Levine多年来使用机器人完成的许多项目都很熟悉。Levine一直致力于将机器人技术越来越多地转向一种“学习”的综合方法,即机器人或计算机模拟中的对应物“代理人”可以学习如何学习。我们的目标是让计算机系统的培训能够带来前所未有的新任务。(有关该方法的一些背景信息可以在官方Nvidia公司博客的博客文章中找到。)

最新工作的挑战可以归结为如何使神经网络不仅能够从一个学习任务概括到另一个学习任务,而且能够随着时间的推移不断提高通用新任务的概括能力。并且,为了以最少的数据作为示例这样做,假设神经网络随着时间的推移而面临的许多新任务可能没有大量可用的训练数据,或者至少没有大量“标记的”训练数据。

上周在arXiv预打印服务器上发布的 “在线元学习”一文中描述了这一结果 。

目前的研究已经与Levine的其他工作相呼应,这些工作更接近机器人技术本身。ZDNet早在十月就与 Levine如何训练机器人模拟 - 代理商 - 推断来自YouTube的多帧视频的移动有关。与在线元学习并行,因为计算机正在学习如何及时扩展其对实例的理解,从某种意义上提高其理解能力。

导致作者Finn和Rajeswaran追求的方法是结合近年来团队广泛探索的两种不同方法:元学习和在线学习。

在元学习中,神经网络在某种意义上是对某些任务进行预先训练的,然后它允许它实现一种技能转移,因为它通过不同于训练的新类型的挑战进行测试。Levine和他的团队在2017年开发了一个广泛的系统,称为“ 模型不可知的元学习 ”或“MAML”,这种策略可应用于任何数量的不同神经网络,来自经典的“前馈”网络到“卷积神经网络”。

作者建立在MAML方法的基础上,但试图解决其中一个弱点:它的概括能力在初始预训练后基本停止,随着时间的推移不能适应。为了解决这个问题,作者借鉴了另一项长期研究,在线学习。在在线学习中,神经网络通过比较每个新任务随时间推移的参数的不同可能配置而不断改进。网络寻求以这种方式找到其参数的解决方案,以最小化“遗憾”,即任务的实际性能与最佳性能之间的差异。

作者创作了一个名为“跟随元领导者”的文章,这是一个将元学习这个术语与最成功的在线学习算法之一的名称相结合的词汇,“跟随领导者”,首先在20世纪50年代Jim Hannan为博弈论领域。

在这种情况下,代理从一系列任务中呈现一轮又一轮的任务,在这种情况下,例如转换经典MNIST数据集中的数字图像,或者对场景中的对象执行“姿势预测”,或对物体进行分类。在每轮之后,代理通过微调随时间发展的权重或参数来尝试最小化该遗憾功能。所有这一切都通过经典的神经网络优化方法,随机梯度下降来实现。

作者对这些任务与先前的方法相比显示了一些令人印象深刻的基准测试结果,例如,一个名为“一切都行驶”或“TOE”的结果。

热点推荐
随机文章