预训练大模型与医疗：从算法研究到应用 1. 预训练大模型概述 2. 理解大模型的内在机理 3. 赋予模型精准性与可解释性 4. 医疗领域应用 5. 清华探索：数基生命 CHIMA 20Pag2 Tsinghua Confidential | lvhairong@tsinghua.edu.cn CONTENTS 预训练：从大数据到小数据 ③ 精 准 可 解 释 ④ 医 疗 应 用 et al. "Knowledge neurons in pretrained transformers." arXiv preprint arXiv:2104.08696 (2021). 白箱算法的可解释性与模型构造本身高度相关， 因此对于大模型可以根据相关思路设计更具有 针对性的可解释性方法。 主流的模型相关可解释性方法： • 基于梯度显著性 [1] • 基于因果启发 [2] • language models." arXiv preprint arXiv:2302.07257 (2023). 背景 用于医学图像的计算机辅助诊断 (CAD) 网络通过 使 用先进的深度学习算法来支持临床决策，在医学 领 域取得了重大成功。大型语言模型 (LLM) 最近 展示 了在临床应用中的潜力，其提供了宝贵的医学 知识 和建议。 挑战： LLM 目前难以从这些医学图像中解释和提 取

策梳理与分析，提炼出“人才培养、科学研究、社会服 务与国际合作”四大导向，明确高等教育数智化转型的发展方向和战略目标。 报告从技术、社会与教育三个维度深入审视机遇与挑战：在技术层面，算力、数据与算法的突破孕育创新红利， 但面临安全、伦理、偏差与治理等现实约束；在社会层面，发展契机与潜在风险并存；在教育层面，知识去中 心化、学习个性化的进程中，需要同步重塑价值导向与能力结构。基于深入分析，报告提出推动高等教育走向 围绕教育大模型的能力与要素，报告构建了完整的分析框架。在能力维度上，提出“通用能力＋教育能力”的 能力谱系；在要素分析上，形成“五要素”框架：算力作为构建基石与场景适配关键，数据作为必备燃料与领 域属性特征，算法作为核心引擎与风险应对策略，开发工具作为全栈式工具矩阵，安全、伦理和隐私保护作为 有效保障。在技术路线上，构建“参考架构—智能体应用—标准体系”的完整技术路径，以“性能—成本—应用” 协同优化为 体系、配置优质均衡的教育资源、 强化智能协同的科研创新。据此提出“统筹规划、分步建设、优选场景、协同发展”的教育大模型建设原则， 阐明基于通用大模型研发教育大模型的具体实践，倡导通过算力、数据、算法协同优化的工程创新来实现教育 大模型的高算效和高能效。 应用层面，报告系统归纳教学、管理、科研与社会服务等主要应用场景，汇聚典型案例包括 DeepSeek 助力数 字化实训、大模型赋能智慧教室

，结合设备 的材料特性、运行环境等因素 ，运用机器学习 算法计算设备的剩余寿命。这有助于提前制定 设备维护和更换计划 ，保障核设施的安全运行。 AI 技术驱动的监管范式革新 基于计算机视觉的腐蚀裂纹量化评估 • 借助计算机视觉技术 ，对核设备表面的 腐 蚀和裂纹进行识别和量化分析。通过高精 度的图像识别算法 ，能够准确测量腐蚀和 裂纹的尺寸、深度等参数。 设备老化智能预测模型 ，我们是否正在遗忘核技术对人类存在的 根本性威胁？ u 算法优化会否遮蔽对 “绝对安全不可能性”的敬畏？ u 为防范核风险而创造的超级监控系统 ，是否可能成为新形态的技术霸权？ u 当 AI 替代人类判断 ， 监管者会否沦为算法的 “执行器官”？ 工具理性与价值理性的永恒张力 n 汉斯 · 约纳斯的责任伦理 • AI 的 “概率思维”与责任伦理的 “绝对命令”存在根本冲突。 当算法计算出 “可 接受风险”（如 核安全监管者已成为 “赛博格”： 人体与仪器融合 ， 人脑与 AI 决策系统共 生。这种融合模糊了传统的主体 - 客体边界。 u 传感器、 算法、 操作员共同构成监管 “行动元” ， 人不再是唯一责任主体。 u 若 AI 误判导致事故 ， 责任应归于： 数据缺陷？算法偏见？执行人？ 安全的本质是技术还是人性？ 国际上核安全监管在 AI 的进 展 国家 / 组织 政策文件 技术应用 监管创新 国际合作

霍普菲尔德神经 网络被提出 1986 年 BP 算法使得大规模神 经网络的训练成为可能， 将 AI 推向第二个黄金 期 199 0 年 AI 计算机 DARPA 计划失败，政府缩 减投入， AI 进入第 二次低谷 2006 年 Hinton 提出“深度 学习“神经网络使 得人工智能性能获 得突破性进展” 2013 年 深度学习算法在语音 和视觉识别上识别率 显著提升，进入感知 智能时代 2025 人工智能算法发展阶段 典 型 应 用 核 心 技 术 应 用 表 现 统计机器学习 1980 年代至 21 世纪初期 硬件奠基，算法发展，数据积累 算法框架：逻辑回归、朴素贝叶 斯 .... 特征工程 + 算法 推荐系统 输入法 可解释但依赖人工经验输入 深度学习 2010-2020 硬件发展，大规模数据，算法突破 推荐系统 人脸识别 算法框架：深度神经网络、卷积神经网络 算法框架：深度神经网络、卷积神经网络 自动进行特征学习，端对端训练，有监督 在特定场景效果好，但需要根据 不同任务训练不同的模型，泛化 能力差 生成式 AI 2020- 硬件、算法、大数据全面突破 对话机器人 算法框架： Transformer 大规模无 监督预训练 多任务、多模态统一处理 自然语言理解、世界知识记忆、 逻辑推理 人工智能时代推动检验技术的发展 大数据 人工智能 物联网 云计算 自动化图像识别

一体化全局 管控，实现整体效率提升 设备管理、能源管理、物业 管理、资产管理 物联网、 AI 技术 物联网、 AI 技术 物联网、云计算 AI 算法 物联网、 AI 算法 VR 、数字人 物联网、 AI 物联网、 AI 算法 物联网 物联网、大数据 5G 、 AI 技 术 智慧校园数智能力平台 智能魔方业务中台 统一运维中心 物联网中台 物理模型管理 智能云平台 通过 AI 赋能办公视频监控系统，实现事前预警、事中处置、事后分析及 AI 自主学习功能，通过视频监 控 人脸数据、车辆数据等的关联分析，融合 3D 立体视觉感知、大规模跨镜追踪（ ReID ）等多种算法， 实 现人、车、非机动车结构化分析 & 智能检索，提升办公整体安全防控治理水平。 应用价值： ① 支持通过人脸、人体、车辆、非机动车特征属性查证，可节约事后 90% 以上的查证时间。 ② 对高空抛物等不文明想象进行监控取证 电动车入电梯 对电动车进入电梯自动报警， 提示人员禁止入电梯 校园治理：安防 AI 算法体系赋能校园综合治理 结合智慧化社区建设需求，支持多种 校园 场景算法的落地， 提供了完整的算法管理体系， 目前已接入 100+ 场景算法， 更多 场景算法 持续接入中 …… 消防通道占用 布控消防通道，自动上报消防通道占用报警 行人识别 识别公共区域内行人，进行行为分析

低碳校园、智慧教室、智能 会议室以及办公场所 设备管理、能源管理、物业 管理、资产管理 一个指挥中心， 一体化全局 管控 ，实现整体效率提升 物联网、 A I 算法 物联网、 A I 算法 物联网、 A I A I 算法 物联网 物联网、大数据 物联网、云计算 物联网、云计算 学 生 群 体 校园访客 智慧校园运营中心 全域安全 校园管理 物业管理 空间管理 低碳节能 服务体验 公 共 区 域 重 点 区 域 出 入 口 视频调阅 轨迹分析 范、人脸识别。 校园治理： 安防 AI 算法体系赋能校园综合治理 结合智慧化社区建设需求， 支持多种 校园 场景算法的落地， 提供了完整的算法管理体系， 目前已接入 100+ 场景算法， 更多 场景算法 持 续接入中 … … 消防通道占用 布 控 消 防 通 道， 自 动 上 报消防通道占用 报警 电动车入电梯 楼宇自控末端设备 智能灯控末端设备 智慧楼宇界面 低碳校园： 可看可查 ， 关键设备可查可控 ， 实现校园设备信息化和管理智能 化 ArchI-Brain A I 集成算法 - A I 高效机房 \A I 变风量 \A I 多能互补 \A I 预测 \A I 运维 \A I 健康环境 ... Home Automation System 智能室内控制系统 物

Agent 为主、人工为辅 02 对 AI 教育的思考： AI 重塑就业岗位和组织 结构 n 人工智能专业 n 大专：编程基础 | 数据处理 | 模型训练 | 算法应用 | 工具使用 本科：基础知识掌握 | 编程能力 | 算法理解 | 实践应用 | 跨学科意 识 硕士：专业深化 | 研究方法 | 创新能力 | 工程实践 | 领域专精 博士：原创研究 | 理论突破 | 学术前沿 | 独立科研 赋能 人才 n 应对措施 1. 加强信息安全 • 建立安全分类框架，制定安全保护政策，进行安全培训 2. 警惕 AI 的幻觉和偏见 • 技术层面：代码，算法，数据，提示词 • 思维层面：理解原理，鼓励批判性思维 3. 为教与学提供具体的指导 • 教师：教学培训，交流和社区， AI 教学助手 • 集中 实践课 专业 核心课 专业 选修课 神经网络与深度学习核心算法 大模型微调技术，优化算法性能 设计开发算法模型，解决实际问题 深度学习与 NLP 实践 语音识别技术 人工智能数学基础 数据库技术 计算机系统基础 操作系统导 论 人工智能导论 数据结构与算法分析 Python 程序开发与实 践 AI 工程方向 AI

确保人类和社会价值观占上风 ： 盈 利驱动的算法还会通过促进个人与现 实世界及他人的隔离来削弱社会价值 观和凝聚力。共情、利他主义、公正 、跨文化同情和团结的价值观对于维 护社会稳定和我们的共同人性至关重 要。人工智能和其他数字技术必须不 应阻碍人们与他人和现实世界的联系 ，也不应妨碍尊重超越数字空间的生 活方式和认知权利。 了解 AI 设计固有的威胁 ： 当前的 人工智能算法路径和模型对人权和隐 私构成了紧迫挑战。此外，由AI生成 们能够理解并批判性地评估AI工具，包 括其可解释性和安全性。这可以使教 师了解AI如何得出结论，从而能够批判 性地评估其使用并在必要时进行干预 。 促进包容性 ： 结构化排斥和歧视往 往嵌入到AI的设计和使用中。教师应警 惕潜在的算法偏见。在履行其职责范 围内，教师需确保AI以包容的方式被所 有学生使用，无论学生的性别、种族 、能力或社会经济状况或移民状态如 何。教师还应在利用AI时支持促进社会 包容和文化多元化。 实施以人为中心的方法要求监管机构、 用程序。同时，教师还应培养对人工智能 如何可能提升或降低教学质量的认识。这 一基础层次的人工智能素养也为教育者将 人工智能融入专业发展奠定了基础。 3. 收购 关于AI技术的基本知识，包括 AI模型的训练方法、相关数据和算法的 知识，主要的AI技术类别及其示例，以 及评估特定AI工具在教育领域适用性的 基本能力，并能够使用经过验证的AI工 具。 4. Identify 并且利用AI工具的教学优势 来促进学科特定的教学计划、教学和

...................................................................................55 7. DeepSeek 算法模型................................................................................................. 在教学评价中的应用主要体现在以下几 个方面： 1. 数据采集的全面性：DeepSeek 能够整合课堂表现、作业完成 情况、考试成绩、学生反馈等多源数据，构建完整的教学评价 数据库。 2. 评价指标的多样性：通过人工智能算法，DeepSeek 能够从多 个维度（如知识点掌握度、学习态度、课堂参与度等）进行综 合评价，减少单一指标带来的偏差。 3. 反馈即时性：DeepSeek 支持实时数据分析与反馈，帮助教师 人工记录，数据分散且不完整 自动化采集，数据全面且集中 评价指标 单一，依赖考试成绩 多维，覆盖知识、态度、参与等方面 反馈速度 周期长，通常需一学期或更长 实时反馈，快速响应 主观性 受人为因素影响较大 基于算法，客观性更强 通过上述分析可以看出，DeepSeek 的引入不仅能够解决传统 教学评价中的诸多痛点，还能够为学校构建更加科学、精准的教学 评价体系提供有力支持。这一方案的推行，将为学校教学质量的持

随着2006年DeepLearning算法的提出，人工智能(AI)的发展进 入了第三次浪潮。DeepLearning凭借自身优秀的信息表征及关系提 取能力，已经为计算机视觉(cv)及自然语言处理(nlp)等领域带来了突 破性的进展。现在，AI的魔力已经被逐步引入药物研发的领域，并正 在深刻地改变这个领域的研究和发展流程。无论是在早期的药物筛 选、药物优化，还是在药物的临床试验和后期的上市监控，AI的应用 满意的筛选，则需要长达3000年的时间。简而言之，利用CADD进行高精度的 药物虚拟筛选，所需的时间同样是难以接受的。 AI大模型辅助药物虚拟筛选 基于AI的算法，包括监督学习，无监督学习，自监督学习，强化学习以及基 于规则的算法，可能有助于解决传统方法中存在的问题。 AI方法通常基于对数据特征的学习。具体来说，就是从大量的已知药物化合 物和非药物化合物中，去学习成药所需的潜在特征，并依据这一特征对化合物进 进行虚拟筛选得到的结果，往往涉及到分子具体的药物性质，这是人类无法直观 评价的性质，需要昂贵的实验进行证明。这一问题往往使得分子大模型在实际应 用中处于尴尬的地位。 算法的透明度和解释性： AI在药物虚拟筛选中的另一个挑战是算法的“黑箱”性质。复杂的机器学习模 型，尤其是深度学习模型，虽然在预测性能上表现优异，但其内部的决策过程往 往缺乏透明度，这对于药物发现来说是一个严重的问题。因为成药需要是一个严