人工智能能否像人类专家一样，自主设计出具有创造力和推理能力的计算机系统机制？我们提出了Glia——一种面向网络化系统设计的AI架构，该架构采用大型语言模型（LLMs），并借鉴人类思维模式，构建多智能体协作工作流。每个智能体专注于推理、实验与分析，通过一个评估框架实现协同，将抽象的推理过程与实证反馈相结合。与以往优化黑箱策略的机器学习系统方法不同，Glia能够生成可解释的设计，并公开其推理过程。在应用于大型语言模型（LLM）推理的分布式GPU集群场景时，Glia在显著更短的时间内，自主设计出性能达到人类专家水平的新一代请求路由、任务调度与自动伸缩算法，同时揭示了工作负载行为的全新洞见。结果表明，通过将推理型大语言模型与结构化实验相结合，人工智能能够为复杂系统问题生成兼具创造性与可理解性的设计方案。