使用聊天机器人提供医疗建议可能会引起幻觉,甚至使您面临安全和隐私风险。以下是危险因子以及如何保持安全。 2026 年5 月27 日 • , 5分钟读 无论好坏,聊天机器人正在改变我们思考、学习和感知周围世界的方式。这种破坏在生活的许多领域都很明显,但最敏感和最令人担忧的领域之一可能是越来越多地使用生成式人工智慧(GenAI) 工具进行医疗保健。除了许多免费提供的人工智慧聊天机器人外,主要科技公司还推出了以下服务,进入面向消费者的健康人工智慧领域: 副驾驶健康, 聊天GPT 健康, 和 亚马逊的健康人工智慧 这些模型可以帮助使用者解释他们的医疗记录,并询问有关他们的症状、实验室结果和治疗方案的问题。 但期望人工智慧工具扮演医生的角色是存在风险的。此外,风险不仅在于用户收到错误的建议,还在于他们可能与隐私保护、数据共享实践和法律义务可能与医生或医院不同的系统共享高度敏感的个人信息,并且他们的数据可能会暴露给意想不到的实体。一位美国病患安全中心表示,目前人工智慧聊天机器人的滥用已成为第一大健康科技危害 组织。 从理论到实践 模型建构者在这个领域推出的原因很明显:聊天机器人已经成为一种非常流行的搜寻医疗建议的方式。根据…