丰收
据11月3日央视新闻报道，前不久，一名家长带着3岁的孩子前往浙江中医药大学附属第一医院儿科就诊，医生考虑孩子是哮喘并发肺部感染，建议患儿做胸部X线等检查，家长却以AI给出的诊断与医生不同为由，拒绝接受进一步检查，并带着孩子自行离开。但没过几天，这位家长再次带孩子前来就诊，此时患儿已发展为重症肺炎。
如今，遇事先问AI已成为很多人的选择和习惯，一些包括交互式问答在内的AI工具，确实能给用户提供详细分析和满意建议，不少医生也肯定AI在寻医问药方面的能力。然而，“当AI建议与医生诊断不同时，究竟该听谁的”便成为一个争议话题。上述案例中患者家长不信医生信AI导致病情加重，是值得关注的案例。
医生既有专业资质，又有临床经验，还有医院“背书”，按说患者应相信医生。但不少人被AI看似“无所不能”“无比正确”的表象所迷惑，当医生给出不同诊断时，一些患者较难改变对AI的盲信。实际上，如今AI技术仍不成熟，可能存在幻觉、算法偏见等问题。
不信医生只信AI，不仅可能为生命健康安全“埋雷”，也为传统线下就医模式、医患信任带来了新挑战。此外，这一现象也折射出目前交互式问答AI工具在回答涉生命健康问题时，安全风险警示性不足。对患方、医疗机构以及相关AI工具运营商而言，上述案例不失为一堂警示课。
患方要看到AI存在局限性，不是所有提问AI都能给出正确解答。如果盲目相信AI，轻则可能耽误病情、增加就医成本，重则可能面临生命健康损失风险。如果说AI时代公众需要提升自身修养，那么便不应只是提升使用AI的能力，更要提升认知AI局限性、风险性等能力。医疗机构也要反思部分患方为何不信医生信AI，它或许与AI营造的“万能”假象迷惑性很强有关。除此之外，恐怕也与一些地方和医疗机构仍存在的过度检查、过度治疗等现象有关。
至于AI运营商，则既要以严谨态度、规范宣传来推广自家产品，也要持续打磨产品解决AI幻觉、算法偏见等问题，提升服务质量、降低错误率，更要以多种方式提醒用户AI推荐仅供参考，且存在风险隐患，尤其是涉及生命健康、财产安全的问答。
从监管角度分析，有必要以问题为导向进一步强化医生的价值，明确AI的辅助角色。去年多部门联合印发的《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》已提出“智能辅助诊断、智能辅助决策”，此外还要强化医生在诊疗中的主导权、决定权，并向公众宣传普及“医生为主、AI为辅”的常识，对AI在涉及生命健康方面的不规范服务，要加强监管。