Command Palette
Search for a command to run...
Nenad Tomasev Matija Franklin Joel Z. Leibo Julian Jacobs William A. Cunningham et al

摘要
自主人工智能 Agent的快速普及,正在催生一种新的经济形态——在此形态中,代理能够以超出人类直接监管能力的规模与速度进行交易与协作。为此,我们提出“沙盒经济”(sandbox economy)这一分析框架,从两个关键维度来刻画这一新兴系统:其起源(自发涌现 vs. 有意设计)以及其与既有人类经济体系的分离程度(可渗透 vs. 不可渗透)。当前的发展轨迹表明,一个规模庞大且高度可渗透的人工智能代理经济体系将自发形成,这既为我们带来前所未有的协同可能性,也伴随着系统性经济风险加剧与不平等扩大的重大挑战。本文探讨了若干可能的设计选择,以实现对人工智能代理市场的安全可控。具体而言,我们考虑了用于公平资源配置与偏好协调的拍卖机制、围绕实现集体目标而设计的AI“使命经济”(mission economies),以及保障信任、安全与问责所需的社技术基础设施。通过这些分析,我们主张应主动设计可调控的人工智能代理市场,以确保即将到来的技术变革能够与人类长期的集体繁荣目标相一致。