小互 · AI 学院ACADEMY
课程/C14/第 3.1 课

医生四红线:隐私死线 / 绝非诊断 / 担责不外包 / 合规先行

讲解免费试学L3 · 16 分钟
这节课结束时,你会有
写进规矩文件的医生四红线

全课底线所在,踩一条全盘皆输。四条线,前两条是死线,后两条是护栏——最后告诉你为什么这些「枷锁」恰恰是你最深的护城河。

01死线一:患者隐私绝不入库,没有例外

你喂进去的内容会被发送到 AI 厂商的服务器。真实患者的姓名、病历号、影像、检查报告、住址、任何能定位到具体某个人的健康信息——默认绝不直接贴进去。这不是道德倡议:

  • 患者健康信息受法律硬性保护,泄露在很多地区伴随刑事责任和巨额罚款;
  • 患者把最私密的信息托付给你,这份信任破坏一次就不可逆。

安全用法两级:①学习练手用完全虚构病例(第一课建的那个库);②真要处理真实患者数据,消费级套餐绝对不行——必须走带数据控制能力的企业版本(数据不训练、数据驻留),且先过你机构的合规审查和伦理审查。没过审之前,真实患者数据一个字都不能进去。

容易漏的细节:「脱敏」的标准比想象高——罕见病 + 年龄 + 地区的组合就能反推身份;规矩文件里也一个字的患者信息不能写。

02死线二:绝不做诊断或治疗依据

它会非常自信地胡说:把药物剂量记错、把禁忌症说反、编造不存在的研究——说得头头是道毫无破绽。别的行业这叫出错,医疗里这能要命。三条铁律:

  • 诊断、用药、治疗决策,它只能当资料员和草稿手,绝不当依据;
  • 它给的任何医学事实(剂量、推荐、禁忌、结论),回权威来源核实再用;
  • 你做的任何患者工具,醒目标明「仅供参考/教育,不构成医疗建议」

心智模型:一个知识面很广但毛躁、绝不能让他单独管病人的实习生。

03护栏三与四:担责不外包、产品合规先行

诊疗决策的本质是有人持证、担责、签字——它不查房、不被追责、不丢执照,拍板的永远是你。往产品方向走(毕业项目之后想上线的),合规要求陡增:医疗器械监管、数据合规、临床验证都是真门槛——任何患者工具的「出问题谁担责」,做之前就要想清楚。权限老规矩:别图省事开完全放行。

04反过来想:枷锁即护城河

AI 越强,「能为人命签字的专业判断」越稀缺越值钱。信息加工在贬值,但监管和担责的门槛把纯加工竞争挡在门外——能跨过监管、能担责的医生造出的产品,才有人敢用。合规不是你的负担,是你和纯技术团队之间最宽的那条河。

05检查点

CHECKPOINT · 01
想让 AI 帮你分析科里 200 例真实病例数据写论文。合规路径是?
为什么:删姓名列远不是去标识化(病历号、日期、罕见特征都能回溯身份),分批喂不改变数据出境的性质(选项三是自我安慰)。回顾性研究用真实数据本来就要过伦理审查——AI 只是分析工具的一种,不豁免任何一步。反过来,走完三步之后你获得的是完全合规的科研加速器,这才是可持续的用法。
CHECKPOINT · 02
AI 在你的文书草稿里写了某药「最大日剂量 X mg」,和你的记忆一致。要核吗?
为什么:「和记忆一致」是最危险的确认方式——你的记忆可能来自旧版指南,它的数据可能截止于训练时间,两个过时来源互相印证只会更自信地错。让它自己再确认(选项三)同理:同一个模型复述自己。剂量、禁忌这类「错了直接伤人」的数字,唯一的核对对象是权威现行来源。这条纪律没有「例外情况」四个字。
本课产出

写进规矩文件的医生四红线

「患者信息零输入(虚构库练手)/ 医学事实回权威源核实 / 诊疗决策绝不外包 / 患者工具必带免责与本地存储」——写进 CLAUDE.md/AGENTS.md,从此每次开工自动生效。

完成后自动记录进度,随时能回来