谷歌决定撤回部分 利用人工智能生成的健康摘要 在新闻调查显示搜索结果可能提供错误且潜在危险的医疗信息后，搜索结果功能被下调。此举影响到被称为“ 人工智能概述，即出现在谷歌搜索结果顶部的快速解答框。
该公司坚称这些摘要通常是 对大多数用户来说实用可靠但此案是由英国报纸揭露的。 守护者 它使人们更加关注谷歌如何处理与健康相关的搜索，而这在英国和欧洲其他地区都是一个特别敏感的领域。
为什么谷歌移除了医疗保健领域的AI概览？
争议爆发于…… 《卫报》发现，人工智能概览返回的医学分析数据缺乏必要的背景信息。具体来说，当搜索“肝功能血液检查的正常范围是多少”或“肝功能检查的正常结果是什么”时，谷歌的人工智能显示了一长串数值，并将其视为正常值，但没有说明这些范围取决于多种个人因素。
肝病专家和患者组织发言人警告说，这种信息呈现方式可能会…… 对患有严重肝病的人来说，这是误导性的。有相关症状或病史的用户可能会看到检测结果在这些通用范围内，从而认为一切正常，并推迟去看家庭医生或专科医生——这在像西班牙这样的医疗保健系统中尤其令人担忧，因为…… 早期发现 这是关键。
最受诟病的一点是，这些总结报告没有考虑到一些基本变量，例如： 患者的年龄、性别、种族或国籍实际上，这涉及到将来自不同实验室和国家的参考数据混合在一起，从而营造出一种精确的假象，而这种精确性实际上并没有临床支持。
研究结果发表后，谷歌随即采取了行动。 针对特定肝功能查询禁用 AI 概览根据分析本身，受影响的搜索是 守护者他们停止显示 AI 框，尽管在很多情况下，第一个自然搜索结果恰恰是谴责该问题的文章。
受影响最大的健康咨询项目：肝功能检查
最引人注目的例子与众所周知的肝功能检查有关，这些检查在基层医疗机构和欧洲医院都非常常见。这些检查包括一系列分析（例如ALT、AST、胆红素、碱性磷酸酶和GGT等），需要…… 个体化的临床解读 它们无法用一个适用于所有人的单一范围来概括。
据通讯和政策主管瓦妮莎·赫布迪奇 (Vanessa Hebditch) 称， 英国肝脏信托基金谷歌人工智能生成的回复 一系列数字，但这些数字甚至并不总是与具体的测试相对应。 这项检查原本可能在病人身上进行。此外，也不清楚为什么有些人检查结果看似正常，却仍然患有严重的早期肝病。
赫布迪奇对谷歌移除这些摘要表示欢迎，认为这是避免混淆的必要步骤。然而，他坚持认为问题远不止几次搜索那么简单：令人担忧的是…… 人工智能健康概览构建背后的逻辑 在其他医疗咨询中可能重现同样的失败。
英国报纸通过稍微修改问题的措辞，例如改为“肝功能检查的参考范围”或“LFT参考范围”，证实了这一点。 自动生成的摘要不断出现至少在事件曝光后的最初几个小时内是这样。经过进一步核实，才确认谷歌也删除了那些富媒体搜索结果。
谷歌的官方回应及其局限性
针对这些批评，谷歌发言人表示，该公司通常不会…… 评论搜索引擎中的具体提款情况该代表没有提供修改了哪些具体查询的详细信息，只是表示公司正在进行“广泛的改进”，并在检测到 AI 内容缺乏必要的上下文时应用其内部政策。
发言人补充说，一个由医疗专业人员组成的内部团队审查了被标记的搜索记录。 守护者 而且，根据他的说法，在很多情况下 这些信息并非完全不准确，而且得到了高质量网站的佐证。因此，争议的焦点与其说是数据是否错误，不如说是如何将数据呈现给没有接受过健康培训的用户。
这一澄清与欧洲关于人工智能在医疗保健领域监管的辩论相关，因为它侧重于…… 责任 大型平台 在对内容进行语境化处理时仅仅链接到信誉良好的来源是不够的，因为自动生成的摘要可能会导致对诊断测试或临床参数等敏感话题的误解。
目前，该公司尚未就AI健康概览的进一步变更，向西班牙或其他欧洲国家发布任何具体的公开声明。然而，有关搜索引擎的决策通常是全球性的，因此 欧洲用户也会感受到人工智能功能受到影响。 处理与英国检测到的查询类似的查询时。
患者组织和卫生专家的担忧
除了肝功能检查这个具体案例之外，一些组织还借此机会警告说，这背后存在一个更广泛的问题： 许多人难以获取清晰可靠的医疗信息。 在互联网上。苏·法灵顿，总裁 患者信息论坛他将删除这些摘要描述为“良好的第一步”，但强调人工智能生成的错误健康内容仍然太多。
因此，这些组织要求谷歌和其他大型科技公司做出承诺： 优先考虑链接 卫生应用 以及参考卫生组织例如公共卫生服务机构、大学医院或认可的患者协会。他们还要求，在涉及明显敏感信息的搜索（例如，关于癌症、心理健康或检测结果的搜索）中，人工智能应包含醒目的警告，以鼓励用户咨询医疗专业人员。
法灵顿指出，英国、西班牙和其他欧洲国家的数百万成年人已经难以理解传统的医疗信息，即使是来自官方渠道的信息。如果我们再加上…… 一个人工智能层，它将复杂的内容浓缩成缺乏细微差别的部分。这样一来，产生误解的风险就进一步增加了。
同样，像专业媒体高级编辑维克多·坦格曼这样的技术专家也持相同观点。 未来主义他们认为，这个案例清楚地表明了这一点。 生成式人工智能系统尚未准备就绪。 取代专业医疗指导Tangermann 指出，需要明确规定这类摘要应该在何处以及如何部署。
对欧洲和西班牙语医学搜索的影响
尽管此案最初是由英国媒体曝光，但其后果却直接影响到包括西班牙在内的欧盟。欧洲关于人工智能的法规，正是通过……推动的。 人工智能法它已经包含了对高风险系统（包括医疗保健行业）的具体要求，这可能会影响谷歌和其他平台如何构建其搜索产品。
实际上，欧洲有数百万人使用谷歌作为 健康问题的第一联系人甚至在致电医疗中心或预约服务之前。这意味着，所显示信息的任何缺陷，无论多么细微，都可能影响用户对症状、检查结果或治疗方案的解读。
对于像西班牙这样拥有公共医疗保健系统的国家来说，鼓励筛查和早期诊断活动，令人担忧的是，一次搜索结果就可能阻碍人们寻求医疗建议。 预约你的家庭医生 这可能直接违背公共卫生政策。因此，许多专业人士希望搜索引擎能够明确指出，检测结果的解读应始终由医疗专业人员进行。
在双语或多语环境中，例如西班牙的一些地区，还存在额外的困难： 自动翻译和生成的摘要 保留警告、临床细微差别和具体参考范围，这些内容可能因实验室或国家/地区而异。
这场争论重新引发了一个根本性问题：像谷歌搜索这样如今融合了生成式人工智能的工具，在多大程度上应该参与到复杂临床问题的解读中？此前撤回的医疗保健领域人工智能概览事件表明，除非有适当的背景和…… 严格的医疗监管任何试图利用人工智能简化健康信息的尝试都可能造成一种虚假的安全感，而最谨慎的做法仍然是咨询专业人士。
