OpenAI 研究：梯度噪声尺度如何预测 AI 训练的可并行性
OpenAI 研究发现，梯度噪声尺度这一统计指标可预测神经网络训练在多种任务上的并行化潜力。复杂任务的梯度噪声更大，未来可使用更大的批量规模，从而解除制约 AI 系统进一步扩展的限制。研究表明，神经网络训练可以摆脱"神秘艺术"的标签，被严格化和系统化。
全部数据中心动态
OpenAI NewsAI 评分1515
OpenAI NewsAI 评分33 OpenAI 开发 RND 预测奖励强化学习方法，首次在 Montezuma's Revenge 上超越人类平均水平
OpenAI 开发了 Random Network Distillation（RND），一种基于预测的方法，通过好奇心机制驱动强化学习智能体探索环境。该方法首次在 Montezuma's Revenge 游戏上达到超越人类平均水平的成绩。
OpenAI NewsAI 评分44 OpenAI 研究：多尺度多视角下仍可欺骗神经网络的对抗样本
OpenAI 制作出在不同缩放尺度和视角下观察时仍能稳定欺骗神经网络分类器的对抗图像。该结果对前一周"自动驾驶汽车因从多尺度、角度和视角采集图像而难以被恶意欺骗"的说法构成挑战。
OpenAI NewsAI 评分55 深度学习基础设施：开源生态如何放大研究进展
OpenAI 发文指出，深度学习是一门实证科学，团队基础设施的质量会成倍放大研究进展。作者认为，当前的开源生态已使任何人都能搭建高质量的深度学习基础设施。文章强调基础设施投入对深度学习研究产出具有乘数效应。