预训练大模型与医疗：从算法研究到应用 1. 预训练大模型概述 2. 理解大模型的内在机理 3. 赋予模型精准性与可解释性 4. 医疗领域应用 5. 清华探索：数基生命 CHIMA 20Pag2 Tsinghua Confidential | lvhairong@tsinghua.edu.cn CONTENTS 预训练：从大数据到小数据 ③ 精 准 可 解 释 ④ 医 疗 应 用 参数量 3.4 亿 数据量约 78GB CHIMA 20Pag2 Tsinghua Confidential | lvhairong@tsinghua.edu.cn 2019 年 8 月 清华大学提出知识注入 BERT 模型，后由 Baidu AI 更新迭代 到 3.0 版本 参数量 1.15 亿， 1.25 亿， 100 亿 数据量约 12GB ， 22.9G ， 4TB 2020 edu.cn 清华大学数基生命交叉创新群体 ④ 医 疗 应 用 ⑤ 数 基 生 命 ① 关 于 预 训 练 群体顾问 戴琼海 中国工程院院士 李衍达 中国科学院院士 董家鸿 中国工程院院士 Wing H. Wong 美国科学院院士 ② 剖 析 大 模 型 群体骨干 ③ 精 准 可 解 释 张静 群体带头人 张学工 生物信息与机器学习专家 清华大学自动化系教授

多所，清华大学、北京大学、南京 大学、东南大学、南开大学、西安交大、中央民大、中 南财大、中国科大等 中国区 • 资助国内高校 200 多 个创新研究项目 • 与高校的合作已经产 出约 1200 多件创新专 利技术 • 促进高校研究成果产 业化，约 1900 多个项 目合作成果产业化 网络学院 • 与中国 200 所院校开展 华为网络学院合作 • 华为与清华： IPv6 IPv6 领域研究四个课题，已经验收 • 华为与清华、北邮、电子科技大： SND 领域研究 • 华为在中国区开展 200 所网络学院建设 交流研讨 35 持续投入，积极参与教育信息化建设  全国教育骨干网一、二、三期项目  全国百万级中小学教师远程培训平台  教育部高等教育司远程沟通平台  北京市宣武区、崇文区教育城域网  北京市校校通工程  上海市教育骨干网  上海教科网信息中心

项浙江省“尖兵”计划项目 68 项浙江省卫健委项目 4 项浙江省科学技术进步奖三等奖 浙大二院开展全面深入合作 浙江省中医院战略合作 复旦大学附属中山医院医疗技术协作中心 复旦大学附属眼耳鼻喉科医院协作医院 清华大学医院管理研究院实践基地 浙江大学湖州研究院数字健康研究中心 国家级住院医师规范化培训基地 国家级全科医师规范化培训基地 国家药物临床试验基地 国家级胸痛中心 国家级高级卒中中心 国家级房颤中心

[2] 吴玉韶, 党俊武. 老龄蓝皮书 ：中国老龄产业发展报告[M]. 北京: 社会科学文献出版社, 2014. [3] 裘加林, 田华, 郑杰, 等. 智慧医疗[M]. 2 版. 北京: 清华大学 出版社, 2015. [4] 国务院关于印发新一代人工智能发展规划的通知[EB/ OL]. http://www.gov.cn/zhengce/content/2017-07/20/con-

数据融合能力可为医院管理者提供对话式交互和数据洞察，简化数据应用，实现精细 化医院管理。 在药物研发过程中，医疗大模型可预测药物-蛋白质相互作用和药物毒性等信息，从而 评估新药的功效和安全性，有助于缩减研发周期，加速新药发现。如，清华系初创团 队水木分子推出新一代对话式药物研发助手ChatDD，涵盖药物立项、临床前研究、临 床试验各阶段，作为制药专家的AI助手，提升药物研发人员的工作效率。 医疗大模型的应用场景展示了其在医学领域的多样性和重要性，可改善诊断、治疗和

因此，通过认识智慧健康医疗的本质，理解智慧健康医疗的核心理念， 从而以正确的策略和方式推动发展智慧健康医疗，对我国智慧健康 医疗体系的建设尤为重要。关于智慧健康医疗的定义如图 1-1 所示。 在智慧健康医疗发展的关键节点，清华大学智慧医疗研究院承 接了中国工程院 2020“健康中国”智慧医疗生态体系发展的重大战 略研究项目，中国工程院和中国科学院跨越 7 个学部的 26 位院士通 力合作，共同研拟了智慧健康医疗的准确定义及深刻内涵，提出了

智慧校园智能化系统 设计方案 02 校园智能化系统设计 01 项目建设需求 目录 昆明长城中学于 1944 年由原清华大学校长、 西南联合大学常委梅胎琦和西南联合大学 教授潘光旦、 闻一多、 吴瞻、 费孝通等发起 ， 云南贤达襄助创办 ，是一所历史悠久的烽火 名 校。 学校定 “长城”为校名 ，不仅因为它诞生于抗日战争的烽火中 ， 长城师生应以 “ 民族 复 兴 ， 自强不息”为己任

年世界人工智能教育大会上发布了《教育通用人工智能大模型标准体系研究报告与系列标准》，在 2024 年世界人工智能教育大会上发布了《教育人工智能大模型数据治理与共享技术标准白皮书》，在 2025 年 授权清华大学出版社出版了《教育通用人工智能大模型标准体系研究报告》，这标志着我国教育大模型标准体 系建设取得了初步的成果，进入了快速发展阶段。国外侧重技术标准与伦理规范协同，欧盟《AI 法案》将教育 大 供参考依据。 表 5-1 教育部高等教育司“人工智能 + 高等教育”典型应用场景案例清单 序号 批次 学校 案例 1 第一批 北京大学 口腔虚拟仿真智慧实验室的建设与应用 2 第一批 清华大学 清华大学人工智能赋能教学试点 78 大模型背景下高等教育数智化转型研究报告 3 第一批 北京航空航天大学 人工智能赋能的全过程交互式在线教学平台 4 第一批 北京理工大学 知识图谱驱动的智慧教学系统建设与应用 第一批 国家开放大学 基于 AI 技术的大规模个性化英语教学创新实践 19 第二批 北京大学 北大问学——智能教学平台 20 第二批 中国人民大学 人大未来课堂 AI 智能助手 21 第二批 清华大学 清华大学环境学科人工智能引擎建设 22 第二批 北京交通大学 人工智能赋能教育教学质量评价诊断 23 第二批 北京航空航天大学 人工智能赋能高等教育教学各环节质量提升 24 第二批 北京理工大学

混合精度计算 基于深度学习的分子模拟方法 深度势能 核聚变研究 凝聚态物理 等离子体计算 数值大气预报模式 大气环流模式 气候模式 类脑计算 序列比对 序列拼接 电镜三维重构 清华大学”地球模拟器” 首次突破 100T 持续升级 南京大学 AI 超 算 高校首套智算平台 计算能力 3.4P 中南大学 计算性能突破 4.7P 全国高校 NO.1 新能源材料 厦门大学嘉庚实验

李东青 马继涛 万席锋 张 翔 宋志明 吴文竞 ONA绿色全光网络技术委员会 2 2 编写单位：（排名不分先后） 绿色全光网络技术委员会（ONA） 华为技术有限公司 清华大学 中南大学 复旦大学 南京航空航天大学 南京农业大学 北京科技大学 中央民族大学 四川农业大学 广东工业大学 贵州医科大学 河海大学 广东外语外贸大学 南方医科大学 四川邮电职业技术学院 广东理工学院 广东金融学院 仲恺农业工程学院 广州中医药大学 东莞理工学院 岭南师范学院 广东轻工职业技术大学 铜仁学院 中国五洲工程设计集团有限公司 清华大学建筑设计研究院有限公司 东南大学建筑设计研究院有限公司 同济大学建筑设计研究院(集团)有限公司 中南建筑设计院股份有限公司 合肥工业大学设计院(集团)有限公司 中国建筑西南设计研究院有限公司