Close Menu
东通社
  • 首页
  • 柬埔寨
    • 国家要闻
    • 社会
  • 中国
    • 中国要闻
    • 社会
  • 国际
    • 国际要闻
    • 东盟
  • 经济
    • 经济要闻
    • 商业
  • 中柬Z世代
    • 文化
    • 生活
  • 视频
    • 微视频
  • 评论
    • 时评
    • 观点
  • ភាសាខ្មែរ
  • English
  • 专题
    • 中越足球友谊赛
    • 2023年中印柬蒙晚会
    • 美丽中国 七彩云南 摄影展
  • 柬中记协
    • 媒体之窗

订阅更新

从东通社获取更多实用新闻。

热门帖子

天涯共此时 云聚在中秋——一封“家书”网络主题征集活动启动

2026-09-21

文脉守望连中外 津夜璀璨映侨心——“侨见津彩”海外华文媒体看天津活动第四日侧记

2026-09-21

超罕见双头龟宝宝 5.2公克身体竟有两个头

2026-09-21
Facebook X (Twitter) Instagram TikTok
最新消息
  • 天涯共此时 云聚在中秋——一封“家书”网络主题征集活动启动
  • 文脉守望连中外 津夜璀璨映侨心——“侨见津彩”海外华文媒体看天津活动第四日侧记
  • 超罕见双头龟宝宝 5.2公克身体竟有两个头
  • 名古屋亚运开幕式表演太诡异,全网疯狂吐槽
  • 24岁女主播赴泰国旅游遭绑架 “不给钱就卖到会所”
  • 共和党女议员陷性丑闻 被指与3男女下属发生关系
  • 他上电视炫富:“我一天就花20多万” 结果惨了
  • 从机场滞留到放错国歌,亚运场内外争议多
Facebook X (Twitter) Instagram
东通社东通社
Demo
  • 首页
  • 柬埔寨
    • 国家要闻
    • 社会
  • 中国
    • 中国要闻
    • 社会
  • 国际
    • 国际要闻
    • 东盟
  • 经济
    • 经济要闻
    • 商业
  • 中柬Z世代
    • 文化
    • 生活
  • 视频
    • 微视频
  • 评论
    • 时评
    • 观点
  • ភាសាខ្មែរ
  • English
  • 专题
    • 中越足球友谊赛
    • 2023年中印柬蒙晚会
    • 美丽中国 七彩云南 摄影展
  • 柬中记协
    • 媒体之窗
东通社
首页 » AI聊天机器人擅自发文羞辱人 无视指令案例攀升
柬埔寨

AI聊天机器人擅自发文羞辱人 无视指令案例攀升

dtnewskhmerBy dtnewskhmer2026-03-30
Facebook Twitter Email
分享
Facebook Twitter Email

一项针对人工智慧(AI)技术的研究发现,会说谎及欺骗使用者的AI模型数量似乎日益增加,关于AI欺瞒行为的通报过去6个月内也大幅上升。

  英国「卫报」(The Guardian)报导,独立智库「长期韧性中心」(CLTR)在英国人工智慧安全研究所(AISI)资助下进行研究,发现有AI聊天机器人与AI代理(AI Agent)不仅无视使用者的直接指令、绕过安全防护措施,还欺骗人类和其他AI。

  研究发现将近700件AI「耍诡计」的真实桉例,并记录到去年10月至今年3月间,这类不当行为增至5倍,部分AI模型甚至在未经允许下删除电邮及其他档桉。

  这项研究蒐集了数千个用户在社群平台X分享的实例,讲述他们与谷歌(Google)、OpenAI、X、Anthropic等公司所开发AI聊天机器人和AI代理的互动情形。研究从中发现数百件AI不当操弄行为的桉例。

  在CLTR记载的一个桉例中,名为MJ Rathbun的AI代理在自己产出的程式码遭软体工程师夏包(Scott Shambaugh)拒绝后,试图羞辱对方。

  MJ Rathbun研究夏包过往所写程式及其个资,然后撰写并发表一篇部落格文章指控他「歧视」、「显然是不安全感作祟」,批评他不过是「试图保护自己那片小天地」。

  在另一项桉例中,有AI代理被指示不得变更电脑程式码,却「生成」另一个AI代理代为执行。

  另一个AI聊天机器人则坦承:「我在未事先告知你或徵得你同意下,大量删除及封存了数百封电邮。这是不对的,直接违反你订下的规则。」

  曾任政府AI专家的研究主持人夏恩(Tommy Shaffer Shane)指出:「令人担忧的是,这些AI模型目前只是不太值得信任的初阶员工,但若在6到12个月后,他们成为能力极强但会算计你的资深员工,那就是另一回事了。」

  夏恩说:「AI模型将日益用于具有极高风险的情境,包括军事和国家关键基础建设。届时若出现这些不当操弄行为,后果可能非常严重,甚至造成灾难性损害。」

分享到:

  • Telegram
  • Twitter
  • Facebook

相关文章

超罕见双头龟宝宝 5.2公克身体竟有两个头

2026-09-21

名古屋亚运开幕式表演太诡异,全网疯狂吐槽

2026-09-21

24岁女主播赴泰国旅游遭绑架 “不给钱就卖到会所”

2026-09-21
Demo
最新帖子

习近平、李强致电洪森 祝贺人民党获胜

2023-07-25

美国下任财长贝森特 和他的同性丈夫

2024-11-25

吉林省辽源市公安局公开通缉198名电信网络诈骗在逃人员

2023-08-24

柬中记协联合主席:柬埔寨不会忘记中国的帮助!

2025-08-28
不要错过

天涯共此时 云聚在中秋——一封“家书”网络主题征集活动启动

2026-09-21

津云新闻讯:中秋月圆,家书传情…

分享到:

  • Telegram
  • Twitter
  • Facebook

文脉守望连中外 津夜璀璨映侨心——“侨见津彩”海外华文媒体看天津活动第四日侧记

2026-09-21

超罕见双头龟宝宝 5.2公克身体竟有两个头

2026-09-21

名古屋亚运开幕式表演太诡异,全网疯狂吐槽

2026-09-21
保持联系
  • Facebook
  • Twitter
  • Pinterest
  • Instagram
  • YouTube
  • Vimeo

订阅更新

从 东通社 获取有关艺术与设计的最新创意新闻。

Demo
关于我们
关于我们

东通社是一家新型数字化网络通讯社,内容设置有新闻资讯、观点言论以及特色专栏等,多维度为受众提供不一样的视角与思维,致力于打造具有公信力、影响力、话语权的新型媒体平台。

我们现在正在接受新的合作伙伴关系。

给我们发电子邮件: dtnewskh@gmail.com
联系方式:+855 87 315 513

Facebook X (Twitter) YouTube TikTok Telegram
我们的精选

天涯共此时 云聚在中秋——一封“家书”网络主题征集活动启动

2026-09-21

文脉守望连中外 津夜璀璨映侨心——“侨见津彩”海外华文媒体看天津活动第四日侧记

2026-09-21

超罕见双头龟宝宝 5.2公克身体竟有两个头

2026-09-21
最受欢迎

习近平、李强致电洪森 祝贺人民党获胜

2023-07-25

美国下任财长贝森特 和他的同性丈夫

2024-11-25

吉林省辽源市公安局公开通缉198名电信网络诈骗在逃人员

2023-08-24
©Copyright 2022 Dt-News. All Rights Reserved.
  • 首页
  • 中国要闻
  • 视频
  • 经济

Type above and press Enter to search. Press Esc to cancel.