您现在的位置是:首页 > 精选知识 >正文
为什么不要向AI聊天机器人咨询健康问题?
发布时间:2023-04-29 14:05:00曹昌婵来源:
4月28日消息,自从OpenAI、微软和谷歌推出了AI聊天机器人,许多人开始尝试一种新的互联网搜索方式:与一个模型进行对话,而它从整个网络上学到的知识。
专家表示,鉴于之前我们倾向于通过搜索引擎查询健康问题,我们也不可避免地会向ChatGPT、Bing和Bard等工具提问。然而,这些工具会犯一些我们熟悉的隐私错误,并且还会创造一些新的错误。“消费者至少应该以怀疑的态度看待这些工具,因为和其他许多流行技术一样,它们都受到了广告和营销力量的影响。”
在向人工智能聊天机器人分享敏感健康信息或任何其他秘密之前,有几个需要知道的事情:
1、这些机器人会保存我的聊天记录吗?
没错,ChatGPT、Bing和Bard都会存储用户的输入。不过,谷歌Bard正在对少量用户进行测试,它提供了一个设置,让用户可以要求该公司停止保存查询记录,并取消与用户的谷歌账户相关联。只需点击左上角的菜单栏并关闭“Bard Activity”即可。
而用户也可以在OpenAI的设置中关闭“聊天历史记录和训练”选项,从而限制聊天记录的保存时间。公司表示,关闭后将仅保存聊天记录30天,并避免将其用于人工智能的训练。
2、这些公司拿我们的聊天记录干什么?
这些公司利用用户的查询和回复来训练人工智能模型,以提供更好的答案。但是,这些聊天记录的用途不止于此。谷歌和微软在推出人工智能聊天机器人时,在隐私政策中也留出了使用用户聊天日志进行广告的空间。这就意味着,如果你提问矫形鞋相关的问题,将来你可能会看到这方面的广告。
这样的广告可能对用户的影响不大。但是,当健康问题和数字广告交叉时,就可能会带来伤害。此前的报道显示,包括WebMD和Drugs.com在内的许多症状检查站点与外部广告公司分享了用户潜在的敏感健康问题,如抑郁症或艾滋病毒,以及用户标识符。
此外,数据经纪人也会向买家出售大量的人员名单和他们的健康担忧清单,这些买家可能包括政府或保险公司。有些患有慢性疾病的人报告说,他们在互联网上看到了令人不安的定向广告。
鉴于此,用户应该考虑他们有多大程度上相信这些公司会保护他们的数据,以避免侵入性广告,并决定与谷歌或微软分享多少健康信息。
OpenAI则表示,公司只会保存用户的搜索结果来训练和改进其模型。OpenAI发言人表示,该公司不会利用用户与聊天机器人的互动来建立用户档案或打广告,未来也没有这样的计划。
隐私非营利组织电子前沿基金会的社区组织副主任罗里·米尔(Rory Mir)表示,有些人可能不希望自己的数据被用于人工智能培训,而不管这些公司在广告方面采取什么样的立场。他补充说:“在某个时候,他们掌握的数据可能会落入另一家你不那么信任的公司手中。”
3、会有人查看我的聊天记录吗?
有时候,会有人工审查员参与审核聊天机器人的回答。这意味着,他们也会看到用户查询的问题。例如,谷歌保存了很多聊天记录以供审查和注释,最长可保存四年。尽管这些审查员无法查看用户的谷歌账户,但是谷歌还是建议用户在聊天中不要分享任何个人身份信息,包括姓名、地址或其他可以识别用户或其他人的细节。
4、我的聊天记录会被保存多长时间?
米尔表示:“公司收集我们的数据并长期保存可能会带来隐私和安全风险,这些公司可能会被黑客入侵,或者与不值得信任的商业伙伴分享这些数据。”
OpenAI的隐私政策显示,该公司保存用户数据的时间为“仅限于我们为用户提供服务或其他合法商业目的所需的时间”。这可能是无限期的,该公司发言人拒绝具体说明。
另外,谷歌和微软也会保留用户的数据,直到用户请求删除。
5、我能相信机器人提供的健康信息吗?
美国约翰·霍普金斯大学商学院人工智能对医疗保健影响的运营管理和商业分析教授戴廷龙表示,互联网就像是健康信息的聚集袋,有些信息有用,有些则不是很有用。在筛选垃圾信息方面,像ChatGPT这样的大型语言模型可能比常规搜索引擎做得更好。
例如,ChatGPT可能比Google Scholar更好地帮助某人找到与他们特定症状或情况相关的研究。在戴廷龙教授的研究中,他正在检查聊天机器人是否能够正确诊断医生未能发现的罕见疾病。
但戴廷龙教授指出,这并不意味着我们应该依赖聊天机器人提供准确的健康指导。他说,这些模型已经被证明可以编造信息,并将其作为事实呈现出来,而它们的错误答案可能让人觉得相当可信。
此外,人工智能模型还通过不可靠的来源获得信息。比如,当用户询问为什么总是感到疲惫不堪时,Bard可能会提供许多可能的答案,甚至引用一个关于小西施犬性情的网站。再加上人类倾向于过于信任聊天机器人的推荐,这很可能造成大问题。
戴廷龙教授警告称:“虽然这项技术的表现令人印象深刻,但现在它就像是婴儿,或者可能像十几岁的孩子。人们只是在测试它,而当人们开始依赖它时,它就会变得非常危险。”
6、如何查询健康信息才能确保安全?
由于获得医疗保健的机会参差不齐或费用高昂,并不是每个人在感觉不舒服时都能去看医生。如果你不想让自己的健康问题被保存在某个公司的服务器上,或者成为广告的素材,那么可以使用隐私保护浏览器。
在注册任何基于人工智能聊天的健康服务(比如治疗机器人)之前,首先要了解这项技术的局限性,并检查该公司的隐私政策,看看它是否使用数据来“改善服务”,或者与未透露身份的“供应商”或“商业合作伙伴”共享数据。这两个词通常都是广告商的委婉说法。(小小)
标签:
猜你喜欢
最新文章
- 为什么不要向AI聊天机器人咨询健康问题?
- 马斯克接班人,正住在上海2000元的出租屋中
- 不是王小平了!足协开具新赛季首张罚单:对成都赛区予以警告
- 广厦G2险胜辽宁!威尔斯孙铭徽杀死比赛,威尔哲神准,大秋出隐患
- 广厦首次季后赛客场赢辽宁!郭艾伦伤退 孙铭徽27+6+6+7三分爆发
- 吉鲁:半决赛的米兰德比很特殊,但首先我们得确保联赛进入前四
- 暖春之季看中欧关系“三要三不要”
- 外交部:这不是什么新鲜事,在网络窃密方面,恐怕美国无法被超越
- 记者:英国首富是为了控制权而竞购曼联,不会给格雷泽家族投票权
- 给波士顿动力机器狗装上ChatGPT后,会发生什么?
- 只纠结“华为含量”,看不懂AITO问界
- 华为一季度营收微增至1321亿元,净利润率为近五年最低值
- 冀中能源:公司及控股股东收到立案告知书
- 上海金融法院立案受理投资者诉泽达易盛等证券虚假陈述责任纠纷普通代表人诉讼案件
- 孙铭徽制胜3分引狂赞!暖心收脚一幕更显球品 27+7三分一战扫质疑
- 韩媒:尹锡悦搭乘“空军一号”,飞抵访美之行第二站波士顿
- 美式“瘟疫”!起底美国枪支暴力背后的社会顽疾
- 韩国绑上美国战车危害自身和地区安全
- 得意忘形!那不勒斯球迷为19支意甲球队“举办葬礼” 拿欧冠咋办
- 解读|政治局会议对楼市定调不变,刚性和改善性住房需求将得到支持
- 21解读丨政治局会议定调经济好转主要是恢复性的,继续扩内需稳外贸有这些重点举措
- 定调经济回升向好,更有新能源、人工智能迎政策暖风,首席经济学家火速解读政治局会议
- 官方:津门虎球员杨帆因暴力行为,停赛4场罚款4万
- 孙铭徽7记三分27+6+6:最后19秒关键球 不满主帅一幕引争议