登录社区云,与社区用户共同成长
邀请您加入社区
作者|史博文 阿里巴巴达摩院算法专家 摘要 本文针对3D CT影像的视觉-语言预训练(VLP)提出了CT-DiagVLM框架。针对现有方法在3D数据处理效率低及语义对齐粗糙的问题,设计了CNN-ViT混合编码器以平衡局部细节捕捉与全局建模能力;引入疾病级对比学习机制,利用可学习Query Token从非结构化报告中动态提取细粒度病灶语义,实现同一器官内多病种的
作者|刘冰昊 阿里巴巴达摩院算法专家 摘要 深度学习时代的DNA基础模型,一直缺少一个真正属于自己的全能"building block"。NLP有Transformer Block,CV有ResNet Block——它们都是自洽的基础单元:内部各组件有机协同,外部可自由堆叠扩展。可在基因组学领域,人们要么拿着CNN/Transformer/SSM直接
作者|闵泽平 阿里巴巴达摩院算法专家 摘要 自然语言到优化建模(NL2Opt)正在让大模型参与更复杂的决策建模任务:用户用自然语言描述一个排班、物流、资源分配或网络流问题,模型直接生成可执行的优化求解代码。 然而,优化建模的难点不止在于代码能否运行。更隐蔽的风险在于,模型生成的程序可以顺利调用求解器,也能输出一个看似合理的数值,但其中的约束、变量类型或目标
作者|邱中炜 ,阿里巴巴达摩院算法专家 摘要 传统代理指标(BLEU/ROUGE/RadGraph等)让"高分报告"频繁出现致命临床错误。把"左肺"写成"右肺"、把"良性囊肿"误为"实性肿块";TIF-GRPO通过CABS把报告拆成可验证的临床事实单元,让RL优化方向重新指向临床真相。 &
作者|王剑羽,阿里巴巴达摩院算法工程师 摘要 或许你会觉得LLMs进步这么快,各种SFT、RLHF技术飞速迭代,大模型知道如何使用自然语言进行沟通,花时间调一个详细的小样本提示 (In-context Learning, 上下文学习ICL)就可以满足任务需求,比如OpenAI Guide [1] (https://platform.openai.com/docs/guides/prompt-
作者|卞天,阿里巴巴达摩院实习生 摘要 近年来,回路发现(Circuit Discovery)作为解释语言模型特定决策的研究方向备受业界关注,它旨在从语言模型中找到负责解决特定任务的计算子图。然而,现有的大多数研究忽视了这些回路的整体性,并且需要为不同任务设计特定的损害输入,不仅不准确且效率低下。 为此,我们提出了一种基于信息瓶颈(Information Bottleneck, IB)原理的回路