Close Menu
东通社
  • 首页
  • 柬埔寨
    • 国家要闻
    • 社会
  • 中国
    • 中国要闻
    • 社会
  • 国际
    • 国际要闻
    • 东盟
  • 经济
    • 经济要闻
    • 商业
  • 中柬Z世代
    • 文化
    • 生活
  • 视频
    • 微视频
  • 评论
    • 时评
    • 观点
  • ភាសាខ្មែរ
  • English
  • 专题
    • 中越足球友谊赛
    • 2023年中印柬蒙晚会
    • 美丽中国 七彩云南 摄影展
  • 柬中记协
    • 媒体之窗

订阅更新

从东通社获取更多实用新闻。

热门帖子

俄罗斯圣彼得堡附近仓库设施遭无人机袭击

2026-08-04

高喊“干掉美军第7航空队”!韩国8名大学生因闯入驻韩美军基地被逮捕

2026-08-04

美国拟关闭在加拿大、日本等国5处驻外机构

2026-08-04
Facebook X (Twitter) Instagram TikTok
最新消息
  • 俄罗斯圣彼得堡附近仓库设施遭无人机袭击
  • 高喊“干掉美军第7航空队”!韩国8名大学生因闯入驻韩美军基地被逮捕
  • 美国拟关闭在加拿大、日本等国5处驻外机构
  • 印尼马都拉岛附近海域一渡轮起火致至少5人死亡,中国驻泗水总领馆:暂未收到中国公民伤亡报告
  • 韩国海军陆战队证实:一士官在宿舍因枪击事故身亡,军方与警方等部门展开调查
  • 特朗普:同意取消对伊朗的打击
  • 美军将领被爆料私下写信警告五角大楼:称若不增派驱逐舰,将优先保卫美国本土而非以色列
  • 休达移民危机趋缓 已致67人死亡
Facebook X (Twitter) Instagram
东通社东通社
Demo
  • 首页
  • 柬埔寨
    • 国家要闻
    • 社会
  • 中国
    • 中国要闻
    • 社会
  • 国际
    • 国际要闻
    • 东盟
  • 经济
    • 经济要闻
    • 商业
  • 中柬Z世代
    • 文化
    • 生活
  • 视频
    • 微视频
  • 评论
    • 时评
    • 观点
  • ភាសាខ្មែរ
  • English
  • 专题
    • 中越足球友谊赛
    • 2023年中印柬蒙晚会
    • 美丽中国 七彩云南 摄影展
  • 柬中记协
    • 媒体之窗
东通社
首页 » AI聊天机器人擅自发文羞辱人 无视指令案例攀升
柬埔寨

AI聊天机器人擅自发文羞辱人 无视指令案例攀升

dtnewskhmerBy dtnewskhmer2026-03-30
Facebook Twitter Email
分享
Facebook Twitter Email

一项针对人工智慧(AI)技术的研究发现,会说谎及欺骗使用者的AI模型数量似乎日益增加,关于AI欺瞒行为的通报过去6个月内也大幅上升。

  英国「卫报」(The Guardian)报导,独立智库「长期韧性中心」(CLTR)在英国人工智慧安全研究所(AISI)资助下进行研究,发现有AI聊天机器人与AI代理(AI Agent)不仅无视使用者的直接指令、绕过安全防护措施,还欺骗人类和其他AI。

  研究发现将近700件AI「耍诡计」的真实桉例,并记录到去年10月至今年3月间,这类不当行为增至5倍,部分AI模型甚至在未经允许下删除电邮及其他档桉。

  这项研究蒐集了数千个用户在社群平台X分享的实例,讲述他们与谷歌(Google)、OpenAI、X、Anthropic等公司所开发AI聊天机器人和AI代理的互动情形。研究从中发现数百件AI不当操弄行为的桉例。

  在CLTR记载的一个桉例中,名为MJ Rathbun的AI代理在自己产出的程式码遭软体工程师夏包(Scott Shambaugh)拒绝后,试图羞辱对方。

  MJ Rathbun研究夏包过往所写程式及其个资,然后撰写并发表一篇部落格文章指控他「歧视」、「显然是不安全感作祟」,批评他不过是「试图保护自己那片小天地」。

  在另一项桉例中,有AI代理被指示不得变更电脑程式码,却「生成」另一个AI代理代为执行。

  另一个AI聊天机器人则坦承:「我在未事先告知你或徵得你同意下,大量删除及封存了数百封电邮。这是不对的,直接违反你订下的规则。」

  曾任政府AI专家的研究主持人夏恩(Tommy Shaffer Shane)指出:「令人担忧的是,这些AI模型目前只是不太值得信任的初阶员工,但若在6到12个月后,他们成为能力极强但会算计你的资深员工,那就是另一回事了。」

  夏恩说:「AI模型将日益用于具有极高风险的情境,包括军事和国家关键基础建设。届时若出现这些不当操弄行为,后果可能非常严重,甚至造成灾难性损害。」

分享到:

  • Telegram
  • Twitter
  • Facebook

相关文章

中国公民遭“假官员”电诈受骗金额超千万,驻新加坡使馆提醒

2026-07-31

新西兰外长叫华裔议员“回自己国家”,中国大使罕见发声

2026-07-31

毕业留美工作先交10万美元?特朗普政府盯上国际学生

2026-07-31
Demo
最新帖子

习近平、李强致电洪森 祝贺人民党获胜

2023-07-25

美国下任财长贝森特 和他的同性丈夫

2024-11-25

吉林省辽源市公安局公开通缉198名电信网络诈骗在逃人员

2023-08-24

柬中记协联合主席:柬埔寨不会忘记中国的帮助!

2025-08-28
不要错过

俄罗斯圣彼得堡附近仓库设施遭无人机袭击

2026-08-04

俄罗斯列宁格勒州州长亚历山大·…

分享到:

  • Telegram
  • Twitter
  • Facebook

高喊“干掉美军第7航空队”!韩国8名大学生因闯入驻韩美军基地被逮捕

2026-08-04

美国拟关闭在加拿大、日本等国5处驻外机构

2026-08-04

印尼马都拉岛附近海域一渡轮起火致至少5人死亡,中国驻泗水总领馆:暂未收到中国公民伤亡报告

2026-08-03
保持联系
  • Facebook
  • Twitter
  • Pinterest
  • Instagram
  • YouTube
  • Vimeo

订阅更新

从 东通社 获取有关艺术与设计的最新创意新闻。

Demo
关于我们
关于我们

东通社是一家新型数字化网络通讯社,内容设置有新闻资讯、观点言论以及特色专栏等,多维度为受众提供不一样的视角与思维,致力于打造具有公信力、影响力、话语权的新型媒体平台。

我们现在正在接受新的合作伙伴关系。

给我们发电子邮件: dtnewskh@gmail.com
联系方式:+855 87 315 513

Facebook X (Twitter) YouTube TikTok Telegram
我们的精选

俄罗斯圣彼得堡附近仓库设施遭无人机袭击

2026-08-04

高喊“干掉美军第7航空队”!韩国8名大学生因闯入驻韩美军基地被逮捕

2026-08-04

美国拟关闭在加拿大、日本等国5处驻外机构

2026-08-04
最受欢迎

习近平、李强致电洪森 祝贺人民党获胜

2023-07-25

美国下任财长贝森特 和他的同性丈夫

2024-11-25

吉林省辽源市公安局公开通缉198名电信网络诈骗在逃人员

2023-08-24
©Copyright 2022 Dt-News. All Rights Reserved.
  • 首页
  • 中国要闻
  • 视频
  • 经济

Type above and press Enter to search. Press Esc to cancel.