Command Palette

Search for a command to run...

3 个月前

虚拟 Agent 经济

Nenad Tomasev Matija Franklin Joel Z. Leibo Julian Jacobs William A. Cunningham et al

虚拟 Agent 经济

摘要

自主人工智能 Agent的快速普及,正在催生一种新的经济形态——在此形态中,代理能够以超出人类直接监管能力的规模与速度进行交易与协作。为此,我们提出“沙盒经济”(sandbox economy)这一分析框架,从两个关键维度来刻画这一新兴系统:其起源(自发涌现 vs. 有意设计)以及其与既有人类经济体系的分离程度(可渗透 vs. 不可渗透)。当前的发展轨迹表明,一个规模庞大且高度可渗透的人工智能代理经济体系将自发形成,这既为我们带来前所未有的协同可能性,也伴随着系统性经济风险加剧与不平等扩大的重大挑战。本文探讨了若干可能的设计选择,以实现对人工智能代理市场的安全可控。具体而言,我们考虑了用于公平资源配置与偏好协调的拍卖机制、围绕实现集体目标而设计的AI“使命经济”(mission economies),以及保障信任、安全与问责所需的社技术基础设施。通过这些分析,我们主张应主动设计可调控的人工智能代理市场,以确保即将到来的技术变革能够与人类长期的集体繁荣目标相一致。

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
虚拟 Agent 经济 | 论文 | HyperAI超神经