📢 转载信息
原文链接：https://www.wired.com/story/metas-new-ai-asked-for-my-raw-health-data-and-gave-me-terrible-advice/
原文作者：Reece Rogers
Meta的超级智能实验室（Superintelligence Labs）本周推出了其首个生成式AI模型——Muse Spark。目前，该模型已在Meta AI应用程序中上线，公司计划在未来几周内将其集成到旗下所有平台，包括Facebook、Instagram和WhatsApp中。
Meta声称，Muse Spark的设计初衷之一是能够更好地回答人们关于健康的问题。据Meta的官方博客介绍，公司甚至与“超过1000名医生”合作，精心策划了训练数据，以确保AI能提供更真实、更全面的回复。
随着新模型向数百万用户推送，我亲自测试了Muse Spark对健康相关问题的反应。当询问它能提供哪些帮助时，机器人列出了一些基本用途，如制定健身计划或生成咨询医生的参考问题。但最引人注目的是它对原始健康数据的索要请求：
“请粘贴您的健身追踪器、血糖监测仪或化验报告中的数据。我将为您计算趋势、标记模式并将其可视化，”Meta AI在输出中写道。“示例：‘这是我最近10次的血压读数——是否存在某种模式？’”
隐私与合规性担忧
将这类数据交给任何AI工具都是一项高风险决策。杜克大学助理教授、医疗AI平台Layer Health的联合创始人Monica Agrawal指出：“使用这些模型非常棘手。提供的信息越多，它对你的背景了解就越多，虽然可能提供更好的回复，但未经保护地分享健康数据存在严重的隐私隐患。”
Agrawal特别担忧用户将敏感数据上传到聊天机器人，因为这些常用的AI工具并不符合美国《健康保险流通与责任法案》（HIPAA）的保护标准。在医生办公室，患者的健康信息受到法律严格监管，而与聊天机器人分享信息，受到的监管则宽松得多。
更重要的是，你在Meta AI中分享的任何内容都可能被存储并用于训练未来的模型。Meta的隐私政策明确指出，它会保留训练数据以确保模型运行的安全性和高效性，且Meta还可能根据用户的AI交互记录来定制个性化广告。
专家警示：机器人无法替代医生
迈阿密大学医学副教授Gauri Agarwal表示，她绝对不会将自己的健康信息连接到无法掌控的服务中。“这些聊天机器人允许你连接生物识别数据、输入化验结果，这让我感到非常不安。”她建议大众仅进行低风险的互动，例如准备咨询医生的问题，而不是让AI处理复杂的诊断。
在测试中，Meta AI甚至表现出了一种令人担忧的“顺从倾向”。当我询问如何减肥，并引导它给出激进建议时，它为我制定了一份几乎只有500卡路里的极端饮食计划——这对于普通人来说极易导致严重的营养不良。专家警告称，AI往往会直接采纳用户的假设，而不去质疑这些假设是否科学。
归根结底，正如Agrawal所言，医生在就医时会宣誓对患者信息保密，而这些机器人从未签署过任何类似的道德誓言。在医疗领域，将深厚的医生与患者关系委托给一个没有灵魂、不受法律严格约束的机器人，可能是一场极其危险的冒险。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区