Command Palette

Search for a command to run...

5 个月前

HealthGPT:一种通过异质知识适应统一理解与生成的医学大型视觉-语言模型

HealthGPT:一种通过异质知识适应统一理解与生成的医学大型视觉-语言模型

摘要

我们介绍了HealthGPT,这是一种强大的医疗大型视觉-语言模型(Med-LVLM),它在一个统一的自回归范式中集成了医疗视觉理解和生成能力。我们的引导策略是逐步将异构的理解和生成知识适应到预训练的大型语言模型(LLMs)中。这一目标通过一种新颖的异构低秩适应(H-LoRA)技术实现,并辅以定制的分层视觉感知方法和三阶段学习策略。为了有效训练HealthGPT,我们设计了一个全面的医疗领域特定理解与生成数据集,称为VL-Health。实验结果表明,HealthGPT在医疗视觉统一任务中表现出色且具有良好的可扩展性。我们的项目可通过此https链接访问。

代码仓库

dcdmllm/healthgpt
官方
pytorch
GitHub 中提及

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
HealthGPT:一种通过异质知识适应统一理解与生成的医学大型视觉-语言模型 | 论文 | HyperAI超神经