盖世汽车讯 正如图像处理、智能医疗、自动驾驶汽车和智慧城市等人工智能(AI)各个领域的突破一样,深度学习将迎来黄金时期。未来十年,AI和计算系统最终将具备像人类一样的学习和思考的能力,以处理持续的信息流并与现实世界互动。
然而,当前的AI模型在连续接受新信息训练时会发生性能损失。这是因为每次生成的新数据都会写入现有数据之上,从而擦除以前的信息。这种效应被称为“灾难性遗忘”。如何兼顾稳定性-可塑性成为难点,即AI模型需要更新其记忆以不断适应新信息,同时保持其当前知识的稳定性。这个问题也阻碍了人工智能不断从现实世界的信息中学习。
据外媒报道,新加坡科技设计大学(SUTD)的一组研究人员最近设计出一种用于实现节能持续学习系统的新型代码,并推出受大脑启发的模型Brain-Inspired Replay(BIR),可以自然地进行持续学习。
该研究团队由SUTD的助理教授Desmond Loke领导,研究人员Shao-Xiang Go、Wang Wang、Bo Wang、Yu Jiang和Natasa Bajalovic参与。相关论文“电阻开关存储器材料中的持续学习电导”已发表于期刊《Advanced Theory and Simulations》上。
该BIR模型基于人工神经网络和变分自编码器的使用,可模仿人脑的功能,并在不存储数据的情况下在类增量学习情况下表现良好。研究人员还使用BIR模型表示在数字存储系统中使用电流的导电细丝生长。
助理教授Loke解释说:“在这个模型中,知识被保存在经过训练的模型中,以便在引入额外任务时最大限度地减少性能损失,而无需参考以前工作的数据,从而节省了大量的能源。”
Loke还表示:“此外,在不存储数据的情况下,该模型在挑战当前学习任务的合规性方面实现了89%的准确率,比传统的持续学习模型高出约两倍,且其能源效率也非常高。”
为了让模型能够独立处理现实世界中的现场信息,该研究团队计划在下一阶段的研究中扩展模型的可调能力。
Loke表示:“基于小规模示范,这项研究仍处于早期阶段。采用这种方法有望让边缘人工智能系统在没有人为控制的情况下独立发展。”