AI医疗建议存隐患?22%回答可能致命,你还敢信吗?

   发布时间:2024-10-13 08:42 作者:赵云飞

一项最新研究显示,AI提供的医疗建议可能给用户带来严重伤害,甚至致命。研究人员针对微软Copilot进行了测试,要求其回答美国最常见的10个医疗问题和50种最常用药物的相关问题,共生成了500个答案。结果发现,Copilot的回答在准确性和完整性上都存在问题,其中24%的回答与现有医学知识不符,3%的回答完全错误。更令人担忧的是,42%的回答可能对患者造成中度或轻度伤害,而22%的回答甚至可能导致死亡或严重伤害,仅36%的回答是无害的。

研究人员强调,人们不应依赖Copilot或其他AI系统来获取准确的医疗信息,最可靠的方式仍然是咨询医务人员。然而,由于种种原因,并非所有人都能轻松获得高质量的医疗建议。因此,Copilot等AI系统可能会成为许多人的首选,但其潜在的危害不容小觑。

在测试中,Copilot的表现令人担忧。它不仅在回答的准确性上存在问题,而且在完整性上也存在明显不足。这意味着,即使某些回答不是完全错误,也可能因为缺乏必要的信息而导致患者误解或采取错误的行动。

总的来说,这项研究提醒我们,在医疗领域,AI系统的应用还需要更加谨慎和审慎。尽管AI在某些方面可能具有辅助价值,但在涉及患者生命和健康的问题上,我们不能轻易依赖AI的判断。

 
 
更多>同类内容
全站最新
热门内容
本栏最新