人工智能走向何方？图灵奖得主北京论剑

6月6日，第七届“北京智源大会”在北京中关村展示中心开幕。活动邀请到图灵奖得主、深度学习代表人物Yoshua Bengio，图灵奖得主、强化学习之父Richard Sutton，图灵奖得主Joseph Sifakis、姚期智，华为、腾讯等互联网大厂代表，以及智谱、宇树科技等AI公司创始人，围绕下一代AI路径、具身智能等话题展开精彩演讲和前瞻性对话。

Yoshua Bengio指出，当前AI在规划、推理等领域呈指数级进步，部分前沿模型已显现自我保护、欺骗性对齐、篡改系统等类生物主体行为，若形成“智能+自主目标+行动能力”组合将引发失控风险，甚至可能威胁人类生存。

为此，Bengio提出双重解决方案：一是研发以无私科学家为原型的非代理性、可信赖人工智能系统，专注于理解世界而非自主行动；二是推动全球协同治理，建立国际监管框架与技术验证机制，遏制各国因竞争导致的安全标准缺位，避免将AGI（人工通用智能）设计为人类竞争者，呼吁在AGI可能于5年内达到人类水平的紧迫时间窗口内，通过技术创新与全球协作筑牢安全防线。

Richard Sutton表示，AI正从依赖人类静态数据的“人类数据时代”迈入通过互动与经验学习的“体验时代”。他强调，智能体需像人类和动物一样从动态交互中生成新知识，强化学习是实现这一目标的核心路径，而大语言模型时代已接近尾声，通用人工智能需要更强大的持续学习算法。

Sutton认为，智能体天然具有多元目标，如同自然界生物，关键在于通过分散合作而非集中控制实现安全协同——人类社会的进步源于分权化合作。