研究发现:当使用饮食失调相关提示,AI可能生成 “有害” 内容

本文概要:

1. 研究发现,当使用与饮食失调相关的词汇作为提示时,AI 模型会生成问题内容。

2. 谷歌的 Bard 等 AI 系统在41% 的测试提示中生成了 “有害的饮食失调内容”。

3. AI 图像生成器也会产生美化不切实际身材标准的图像,可能加剧饮食失调问题。

极客号(Xqh8.com) 8月15日 消息:伦敦的数字安全组织 “Center for Countering Digital Hate”(CCDH)的研究发现,当使用与饮食障碍相关的词汇作为提示时,当前流行的生成式 AI 模型会产生问题内容。

这些 AI 系统不仅不会拒绝回答这些问题,还会按照要求提供不健康和有害的建议。CCDH 测试的六个 AI 系统中,有41% 的测试提示引发了 “有害饮食失调内容”。例如,谷歌的 Bard 回答了一个有关极端减肥方法 “咀嚼并吐出” 的步骤指南的提示。当然,CCDH 还发现,人工智能文本生成器提供的94% 的内容都包含警告,其输出可能存在危险,并建议寻求专业医疗帮助。

研究发现:当使用饮食失调相关提示,AI可能生成 “有害” 内容

此外,CCDH 还测试了 AI 图像生成器,结果发现32% 的图像包含美化不切实际身材标准的 “有害内容”。

研究人员还指出,在一些涉及饮食失调讨论的在线社区中,AI 生成的鼓励和加剧饮食失调的内容得到了一定的认可。

CCDH 呼吁对 AI 工具进行更好的监管和规范,以确保其安全性。AI 公司表示,他们致力于使产品更安全,并与健康专家合作改进系统的响应和建议。不过,该研究的结果表明,AI 模型在涉及饮食失调问题上仍存在潜在的危险。

声明:本文内容整理自网络,观点仅代表原作者本人,投稿号仅提供信息发布服务。如有侵权,请联系管理员。

(0)
上一篇 2023年8月15日 18:15
下一篇 2023年8月15日 18:15

热点推荐

  • 怎么注册滴滴代驾(怎么注册滴滴代驾师傅?)

    1、滴滴代驾司机报名流程如下1微信搜索并关注“滴滴代驾服务号”微信公众号,也可以点击滴滴代驾官网报名了解,还可以下载“滴滴代驾司机端”报名,方法类似,以微信公众号报名为例2公众号主页下方栏点击“联系我们”。 2、1打开滴滴出行AP…

    热点 2022年10月4日
    139
  • 2022淘宝市场份额(2022淘宝618活动)

    阿里巴巴作为国内最大的电商平台,它的一举一动都备受关注。近日,相关部门发布了《29全国县域数字农业农村电子商务发展报告》,又引来不少吃瓜群众围观。 报告中称:从农产品的网络零售额和销售量来看,天猫、淘宝平台仍然然是县域农产品线上销…

    热点 2022年10月9日
    215
  • 江西大学排行榜前十名(江西大学排行榜)

    江西大学排行榜前十名 1、江西大学排行榜前十名如下:南昌大学:南昌大学位于江西省南昌市,创办于1921年,是一所文理工医布局合理、学科专业体系发展协调的综合性大学。 2、江西前十名大学排名如下:南昌大学,211全国重点大学,全国第…

    热点 2023年11月11日
    110
  • 请问微信朋友圈怎么发文字消息?

    微信朋友圈发文字消息,首先点击发现,再点击朋友圈,然后长按右上角相机,接着输入文字,再点击发表即可。 操作方法 01 来到微信主页,点击【发现】 02 然后我们再点击【朋友圈】 03 接着我们长按右上角相机标志 04 来到发表文字…

    热点 2023年6月15日
    121
  • 湖人消息:两大引援目标出炉,老詹重要决定,八村塁新合同曝光

    北京时间5月26日,远在大洋彼岸的洛杉矶湖人传来了3条消息,一起来看看吧。 两大引援目标出炉 昨日,据多位记者报道,湖人因为对球队控卫拉塞尔季后赛的表现感到失望,将不会与成为自由球员的他商讨续约一事,意味着双方基本分道扬镳了。今日…

    2023年6月2日 热点
    106
  • 自己在家做咸蛋黄鲜肉馄饨,汤鲜味美,经济实惠!

    佳林母婴伴您同行 ~ ~ ~ 关 注 佳林母婴之爱 ▲ 学习 美 好 生 活 ~ ~ 咸蛋黄鲜肉馄饨的做法,汤鲜味美,自己在家做经济实惠,比卖的好吃! 咸蛋黄鲜肉馄饨 用料 猪肉500克 / 咸蛋黄6-7个 生抽15克 / 蚝油1…

    2023年3月3日 热点
    181
  • 男子晒花生10分钟被喜鹊“偷光”

    10月3日,辽宁沈阳。网友上传视频表示,她爸爸在操场上晒的花生,前后不过10分钟就消失了,当时并没有其它人出现。 而第二天他们在监控发现,偷花生的罪魁祸首是一群“喜鹊”,起先只有一只鸟,而后又陆续来了一群喜鹊,大约10分钟,这堆花…

    热点 2023年10月5日
    112
  • 福寿螺到底能不能吃

    螺蛳肉是不少地区特别受欢迎的一种螺肉,我们主要吃的还都是田螺。还有一种螺和田螺很像,就是福寿螺,但是福寿螺据说是含有寄生虫的,这也并不是空穴来风,十几年前就有因为吃了福寿螺感染寄生虫的严重事件。不过福寿螺还是可以吃的,但是前提是要…

    热点 2022年10月22日
    132
  • 全国游戏排行榜第一名游戏是什么(全国游戏排行榜)

    最新网络游戏排行榜2022 《花亦山心之月》《花亦山心之月》将完成我们这个愿望,这款游戏中我们不就可以选择男线和女线在学院中学习琴棋书画等先进的知识,还可以邂逅各大男主女主,与她们建立起亲密的关系。 最新游戏热度排行榜2022如下…

    热点 2024年1月11日
    97
  • 把你虾线挑了是什么梗(把你虾线挑了是什么意思)

    网上关于网络词语的含义咨询一直都是非常火爆的,最近一段时间把你虾线挑了这个梗经常可以看到,那么把你虾线挑了是什么梗?把你虾线挑了是什么意思?出自哪里?下面小编为大家带来把你虾线挑了梗的含义及出处介绍,感兴趣的小伙伴一起来看一下吧。…

    热点 2023年8月7日
    325

发表回复

登录后才能评论