Close Menu
东通社
  • 首页
  • 柬埔寨
    • 国家要闻
    • 社会
  • 中国
    • 中国要闻
    • 社会
  • 国际
    • 国际要闻
    • 东盟
  • 经济
    • 经济要闻
    • 商业
  • 中柬Z世代
    • 文化
    • 生活
  • 视频
    • 微视频
  • 评论
    • 时评
    • 观点
  • ភាសាខ្មែរ
  • English
  • 专题
    • 中越足球友谊赛
    • 2023年中印柬蒙晚会
    • 美丽中国 七彩云南 摄影展
  • 柬中记协
    • 媒体之窗

订阅更新

从东通社获取更多实用新闻。

热门帖子

高市给李在明讲鬼故事:首相官邸每晚都有奇怪声音

2026-05-21

特朗普前脚离开,普京后脚抵京:访问背后外交密码

2026-05-21

习近平谈中东局势

2026-05-20
Facebook X (Twitter) Instagram TikTok
最新消息
  • 高市给李在明讲鬼故事:首相官邸每晚都有奇怪声音
  • 特朗普前脚离开,普京后脚抵京:访问背后外交密码
  • 习近平谈中东局势
  • 阿富汗45岁男强娶6岁女童!当局:9岁才能圆房
  • “爱国”大哥报警抓捕川普,110的回应也绝了
  • 川普金色手机终于发货 却爆意外翻车
  • 惊到不少人!川普出席北京国宴前这一幕
  • 特朗普又发图了!头戴红帽站在军舰上暗示风暴将至
Facebook X (Twitter) Instagram
东通社东通社
Demo
  • 首页
  • 柬埔寨
    • 国家要闻
    • 社会
  • 中国
    • 中国要闻
    • 社会
  • 国际
    • 国际要闻
    • 东盟
  • 经济
    • 经济要闻
    • 商业
  • 中柬Z世代
    • 文化
    • 生活
  • 视频
    • 微视频
  • 评论
    • 时评
    • 观点
  • ភាសាខ្មែរ
  • English
  • 专题
    • 中越足球友谊赛
    • 2023年中印柬蒙晚会
    • 美丽中国 七彩云南 摄影展
  • 柬中记协
    • 媒体之窗
东通社
首页 » AI聊天机器人擅自发文羞辱人 无视指令案例攀升
柬埔寨

AI聊天机器人擅自发文羞辱人 无视指令案例攀升

dtnewskhmerBy dtnewskhmer2026-03-30
Facebook Twitter Email
分享
Facebook Twitter Email

一项针对人工智慧(AI)技术的研究发现,会说谎及欺骗使用者的AI模型数量似乎日益增加,关于AI欺瞒行为的通报过去6个月内也大幅上升。

  英国「卫报」(The Guardian)报导,独立智库「长期韧性中心」(CLTR)在英国人工智慧安全研究所(AISI)资助下进行研究,发现有AI聊天机器人与AI代理(AI Agent)不仅无视使用者的直接指令、绕过安全防护措施,还欺骗人类和其他AI。

  研究发现将近700件AI「耍诡计」的真实桉例,并记录到去年10月至今年3月间,这类不当行为增至5倍,部分AI模型甚至在未经允许下删除电邮及其他档桉。

  这项研究蒐集了数千个用户在社群平台X分享的实例,讲述他们与谷歌(Google)、OpenAI、X、Anthropic等公司所开发AI聊天机器人和AI代理的互动情形。研究从中发现数百件AI不当操弄行为的桉例。

  在CLTR记载的一个桉例中,名为MJ Rathbun的AI代理在自己产出的程式码遭软体工程师夏包(Scott Shambaugh)拒绝后,试图羞辱对方。

  MJ Rathbun研究夏包过往所写程式及其个资,然后撰写并发表一篇部落格文章指控他「歧视」、「显然是不安全感作祟」,批评他不过是「试图保护自己那片小天地」。

  在另一项桉例中,有AI代理被指示不得变更电脑程式码,却「生成」另一个AI代理代为执行。

  另一个AI聊天机器人则坦承:「我在未事先告知你或徵得你同意下,大量删除及封存了数百封电邮。这是不对的,直接违反你订下的规则。」

  曾任政府AI专家的研究主持人夏恩(Tommy Shaffer Shane)指出:「令人担忧的是,这些AI模型目前只是不太值得信任的初阶员工,但若在6到12个月后,他们成为能力极强但会算计你的资深员工,那就是另一回事了。」

  夏恩说:「AI模型将日益用于具有极高风险的情境,包括军事和国家关键基础建设。届时若出现这些不当操弄行为,后果可能非常严重,甚至造成灾难性损害。」

分享到:

  • Telegram
  • Twitter
  • Facebook

相关文章

高市给李在明讲鬼故事:首相官邸每晚都有奇怪声音

2026-05-21

特朗普前脚离开,普京后脚抵京:访问背后外交密码

2026-05-21

阿富汗45岁男强娶6岁女童!当局:9岁才能圆房

2026-05-19
Demo
最新帖子

习近平、李强致电洪森 祝贺人民党获胜

2023-07-25

美国下任财长贝森特 和他的同性丈夫

2024-11-25

吉林省辽源市公安局公开通缉198名电信网络诈骗在逃人员

2023-08-24

柬中记协联合主席:柬埔寨不会忘记中国的帮助!

2025-08-28
不要错过
柬埔寨

高市给李在明讲鬼故事:首相官邸每晚都有奇怪声音

2026-05-21

5月20日傍晚,韩国总统李在明…

分享到:

  • Telegram
  • Twitter
  • Facebook

特朗普前脚离开,普京后脚抵京:访问背后外交密码

2026-05-21

习近平谈中东局势

2026-05-20

阿富汗45岁男强娶6岁女童!当局:9岁才能圆房

2026-05-19
保持联系
  • Facebook
  • Twitter
  • Pinterest
  • Instagram
  • YouTube
  • Vimeo

订阅更新

从 东通社 获取有关艺术与设计的最新创意新闻。

Demo
关于我们
关于我们

东通社是一家新型数字化网络通讯社,内容设置有新闻资讯、观点言论以及特色专栏等,多维度为受众提供不一样的视角与思维,致力于打造具有公信力、影响力、话语权的新型媒体平台。

我们现在正在接受新的合作伙伴关系。

给我们发电子邮件: dtnewskh@gmail.com
联系方式:+855 87 315 513

Facebook X (Twitter) YouTube TikTok Telegram
我们的精选

高市给李在明讲鬼故事:首相官邸每晚都有奇怪声音

2026-05-21

特朗普前脚离开,普京后脚抵京:访问背后外交密码

2026-05-21

习近平谈中东局势

2026-05-20
最受欢迎

习近平、李强致电洪森 祝贺人民党获胜

2023-07-25

美国下任财长贝森特 和他的同性丈夫

2024-11-25

吉林省辽源市公安局公开通缉198名电信网络诈骗在逃人员

2023-08-24
©Copyright 2022 Dt-News. All Rights Reserved.
  • 首页
  • 中国要闻
  • 视频
  • 经济

Type above and press Enter to search. Press Esc to cancel.