AI 情报文章归档

OpenAI 联合 Future of Humanity Institute、Centre for the Study of Existential Risk。

人类与机器的"融合"并非未来奇点，而是已悄然开始数年的渐进过程。智能手机、社交媒体算法和搜索引擎已在控制人类行为与思维，我们正与AI进入共同进化阶段：AI影响人类，人类改进AI。随着算力和AI人才呈双指数级增长，超级智能与脑机接口将比预期更快到来。与其对抗或被淘汰，深度融合或许是避免物种冲突的最佳路径，但全球需立即开始严肃协调应对。

OpenAI 表示其 Dota 2 结果显示，在足够算力下自我博弈（self-play）可让机器学习系统从远低于人类水平跃升到超人水平。该系统在一个月内从勉强匹敌高分段选手进步到击败顶级职业选手，此后仍在继续提升；自我博弈系统中的数据会随智能体变强而自动改善，不受监督深度学习训练数据集质量上限的约束。

OpenAI 打造出一个在标准赛事规则下、Dota 2 1v1 比赛中战胜世界顶尖职业选手的 bot。该 bot 通过自我对弈从零学会游戏，不使用模仿学习或树搜索，OpenAI 称这是迈向在涉及真实人类的复杂场景中达成明确目标的 AI 系统的一步。

OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization（PPO），性能与当时最先进方法相当或更好，同时实现和调参更简单。因易用且表现良好，PPO 已成为 OpenAI 内部默认的强化学习算法。

OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过让人类判断两个候选行为中哪个更好来推断人类想要什么。该工作旨在免去人工编写目标函数，避免为复杂目标使用简单代理或目标偏差导致不良甚至危险行为，是构建安全 AI 系统的一步。

OpenAI 发现进化策略（ES）这一已有数十年历史的优化技术在 Atari/MuJoCo 等现代 RL 基准上可与标准强化学习方法性能相当，同时克服了 RL 的许多不便之处。

OpenAI 发布 OpenAI Gym 公测版（public beta），这是一个用于开发和比较强化学习（RL）算法的工具包。它包含持续扩充的环境套件，覆盖模拟机器人到 Atari 游戏，并提供用于比较和复现结果的网站。

OpenAI 宣布成立，是一家非营利人工智能研究公司，目标是推动数字智能以最有可能造福全人类的方式发展。其研究不受产生财务回报的义务约束，可更专注于对人类的正面影响。