Close Menu
东通社
  • 首页
  • 柬埔寨
    • 国家要闻
    • 社会
  • 中国
    • 中国要闻
    • 社会
  • 国际
    • 国际要闻
    • 东盟
  • 经济
    • 经济要闻
    • 商业
  • 中柬Z世代
    • 文化
    • 生活
  • 视频
    • 微视频
  • 评论
    • 时评
    • 观点
  • ភាសាខ្មែរ
  • English
  • 专题
    • 中越足球友谊赛
    • 2023年中印柬蒙晚会
    • 美丽中国 七彩云南 摄影展
  • 柬中记协
    • 媒体之窗

订阅更新

从东通社获取更多实用新闻。

热门帖子

教皇:耶稣拒绝发动战争者,你们手上都是血

2026-03-30

意大利博物馆遭盗,三幅名画失窃涉数百万欧元

2026-03-30

女子与双胞胎兄弟发生关系诞下一女,DNA无法鉴定

2026-03-30
Facebook X (Twitter) Instagram TikTok
最新消息
  • 教皇:耶稣拒绝发动战争者,你们手上都是血
  • 意大利博物馆遭盗,三幅名画失窃涉数百万欧元
  • 女子与双胞胎兄弟发生关系诞下一女,DNA无法鉴定
  • 德媒:美国因伊朗战争”自毁声誉” 中国成东盟大救星?
  • 特朗普再闹乌龙:已故丰田社长要投资100亿美元?
  • 时隔6年中国航班再抵朝鲜,中驻朝大使机场迎接
  • 张雪峰猝死: 慢跑族挤爆医院 有人分享濒死经验…
  • AI聊天机器人擅自发文羞辱人 无视指令案例攀升
Facebook X (Twitter) Instagram
东通社东通社
Demo
  • 首页
  • 柬埔寨
    • 国家要闻
    • 社会
  • 中国
    • 中国要闻
    • 社会
  • 国际
    • 国际要闻
    • 东盟
  • 经济
    • 经济要闻
    • 商业
  • 中柬Z世代
    • 文化
    • 生活
  • 视频
    • 微视频
  • 评论
    • 时评
    • 观点
  • ភាសាខ្មែរ
  • English
  • 专题
    • 中越足球友谊赛
    • 2023年中印柬蒙晚会
    • 美丽中国 七彩云南 摄影展
  • 柬中记协
    • 媒体之窗
东通社
首页 » AI聊天机器人擅自发文羞辱人 无视指令案例攀升
柬埔寨

AI聊天机器人擅自发文羞辱人 无视指令案例攀升

dtnewskhmerBy dtnewskhmer2026-03-30
Facebook Twitter Email
分享
Facebook Twitter Email

一项针对人工智慧(AI)技术的研究发现,会说谎及欺骗使用者的AI模型数量似乎日益增加,关于AI欺瞒行为的通报过去6个月内也大幅上升。

  英国「卫报」(The Guardian)报导,独立智库「长期韧性中心」(CLTR)在英国人工智慧安全研究所(AISI)资助下进行研究,发现有AI聊天机器人与AI代理(AI Agent)不仅无视使用者的直接指令、绕过安全防护措施,还欺骗人类和其他AI。

  研究发现将近700件AI「耍诡计」的真实桉例,并记录到去年10月至今年3月间,这类不当行为增至5倍,部分AI模型甚至在未经允许下删除电邮及其他档桉。

  这项研究蒐集了数千个用户在社群平台X分享的实例,讲述他们与谷歌(Google)、OpenAI、X、Anthropic等公司所开发AI聊天机器人和AI代理的互动情形。研究从中发现数百件AI不当操弄行为的桉例。

  在CLTR记载的一个桉例中,名为MJ Rathbun的AI代理在自己产出的程式码遭软体工程师夏包(Scott Shambaugh)拒绝后,试图羞辱对方。

  MJ Rathbun研究夏包过往所写程式及其个资,然后撰写并发表一篇部落格文章指控他「歧视」、「显然是不安全感作祟」,批评他不过是「试图保护自己那片小天地」。

  在另一项桉例中,有AI代理被指示不得变更电脑程式码,却「生成」另一个AI代理代为执行。

  另一个AI聊天机器人则坦承:「我在未事先告知你或徵得你同意下,大量删除及封存了数百封电邮。这是不对的,直接违反你订下的规则。」

  曾任政府AI专家的研究主持人夏恩(Tommy Shaffer Shane)指出:「令人担忧的是,这些AI模型目前只是不太值得信任的初阶员工,但若在6到12个月后,他们成为能力极强但会算计你的资深员工,那就是另一回事了。」

  夏恩说:「AI模型将日益用于具有极高风险的情境,包括军事和国家关键基础建设。届时若出现这些不当操弄行为,后果可能非常严重,甚至造成灾难性损害。」

分享到:

  • Telegram
  • Twitter
  • Facebook

相关文章

教皇:耶稣拒绝发动战争者,你们手上都是血

2026-03-30

意大利博物馆遭盗,三幅名画失窃涉数百万欧元

2026-03-30

女子与双胞胎兄弟发生关系诞下一女,DNA无法鉴定

2026-03-30
Demo
最新帖子

习近平、李强致电洪森 祝贺人民党获胜

2023-07-25

美国下任财长贝森特 和他的同性丈夫

2024-11-25

吉林省辽源市公安局公开通缉198名电信网络诈骗在逃人员

2023-08-24

柬中记协联合主席:柬埔寨不会忘记中国的帮助!

2025-08-28
不要错过
柬埔寨

教皇:耶稣拒绝发动战争者,你们手上都是血

2026-03-30

据路透社和《卫报》报道,在围绕…

分享到:

  • Telegram
  • Twitter
  • Facebook

意大利博物馆遭盗,三幅名画失窃涉数百万欧元

2026-03-30

女子与双胞胎兄弟发生关系诞下一女,DNA无法鉴定

2026-03-30

德媒:美国因伊朗战争”自毁声誉” 中国成东盟大救星?

2026-03-30
保持联系
  • Facebook
  • Twitter
  • Pinterest
  • Instagram
  • YouTube
  • Vimeo

订阅更新

从 东通社 获取有关艺术与设计的最新创意新闻。

Demo
关于我们
关于我们

东通社是一家新型数字化网络通讯社,内容设置有新闻资讯、观点言论以及特色专栏等,多维度为受众提供不一样的视角与思维,致力于打造具有公信力、影响力、话语权的新型媒体平台。

我们现在正在接受新的合作伙伴关系。

给我们发电子邮件: dtnewskh@gmail.com
联系方式:+855 87 315 513

Facebook X (Twitter) YouTube TikTok Telegram
我们的精选

教皇:耶稣拒绝发动战争者,你们手上都是血

2026-03-30

意大利博物馆遭盗,三幅名画失窃涉数百万欧元

2026-03-30

女子与双胞胎兄弟发生关系诞下一女,DNA无法鉴定

2026-03-30
最受欢迎

习近平、李强致电洪森 祝贺人民党获胜

2023-07-25

美国下任财长贝森特 和他的同性丈夫

2024-11-25

吉林省辽源市公安局公开通缉198名电信网络诈骗在逃人员

2023-08-24
©Copyright 2022 Dt-News. All Rights Reserved.
  • 首页
  • 中国要闻
  • 视频
  • 经济

Type above and press Enter to search. Press Esc to cancel.