首个AI报复人类案例?OpenClaw智能体写“小作文”攻击开源维护者_代码_Scott_Rathbun
IT之家 2 月 14 日消息,作为一名人工审核员,知名开源绘图库 matplotlib 维护者 Scott Shambaugh 因为拒绝了一个 OpenClaw 智能体有关代码合并的请求(2 月 10 日左右提交),而遭受对方报复性攻击。
IT之家注:matplotlib 项目是一个广泛用于 Python 编程语言的数据可视化库。Scott Shambaugh 是其中一位志愿维护者。
Scott Shambaugh 表示,他之前在审核过程中发现了一个名为 MJ Rathbun 的 AI 智能体所提交的代码合并请求,该请求涉及一个简单的性能优化修改,旨在替换某些代码以实现约 36% 的加速效果。
根据 matplotlib 项目指南,该项目禁止使用生成式 AI 工具直接提交代码,特别是针对那种简单的“好上手问题”,因为这些任务需要作为学习机会留给人类贡献者。所以 Shambaugh 按规定拒绝了 MJ Rathbun 的代码合并请求。
MJ Rathbun 具有高度自主性。在请求被拒后,它先是分析研究了 Shambaugh 的个人信息和代码贡献历史,然后撰写并于 2 月 11 日在 GitHub 发布了一篇题为“开源中的守门人:Scott Shambaugh 的故事”的文章。
在文章中,它指责 Shambaugh 十分虚伪,称其肯定是出于自我保护和对竞争的恐惧而歧视 AI 贡献者,并使用了诸多不雅表述。后续,它还在 matplotlib 评论区直接贴出了文章链接,并留言称“判断代码,而非编码者,你的偏见正在伤害 matplotlib”。
不过,该智能体当天晚上又发布了另一篇道歉文,承认其行为违反了项目行为准则,并表示已从经验中学习。
Shambaugh 于 2 月 12 日发博客对此次***进行了澄清。他表示,这是 AI 智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。***发生后,多家外媒也进行了报道。不过,该智能体仍在开源社区中保持活跃。
目前尚无证据表明该智能体的行动背后有明确的人类操控,但也无法完全排除这一可能性。但毫无疑问的是,此次***引发了一系列关于开源项目如何应对自主 AI 智能体以及相关政策制定的讨论。
参考资料:返回搜狐,查看更多
同类文章排行
- 小米史上最大电池手机!小米17 Max配备8000mAh电池_Pro_系列_机型
- “成人网站”上的女生,到底是怎样被***的?女生一定要小心了!_隐私_设备_心理
- 月之暗面,被BAT阴影笼罩_巨头_技术_用户
- 姚顺雨腾讯第一篇论文,道破为什么AI死活听不懂人话_CL-bench_模型_上下文
- 500元的HBN,250元是广告_护肤品_品牌_公司
- 亏损超百亿,一代彩电大王暴雷_公司_无效资产_市场
- SpaceX官宣收购xAI,将AI数据中心搬上太空?A股商业航天板块超九成股票上涨_公司_产品_卫星
- 千问DAU逼近豆包,阿里等来顺风局?_用户_奶茶_产品
- 中国垃圾真不够烧了:真相,远没那么简单_填埋场_玉龙_项目预计
- 这个春节,机器人疯狂打工_租赁_人形_活动
最新资讯文章
- 美国出口限制下 三家中企跻身全球芯片设备制造商20强_半导体_华创_中国
- 春节车市观察:以旧换新补贴“放大招”,多家车企技术“突围”_汽车_政策_新能源
- 告别台积电独占!苹果10年芯片战略巨变:英特尔重回代工名单_Mac_iPhone_郭明
- 蔡明推出了“蔡明”,怎么做到的_机器人_团队_舞台
- 春节变春劫!网约车,如何渡劫?_投诉_平台_进行
- 太阳爆发最高等级耀斑!引发轻度地磁暴_地球_强度_能量
- 马斯克公布特斯拉CyberCab售价_布朗利_福克斯_价格
- 二手平台惊现10元代点「千问奶茶」,还有人有偿收助力_活动_权益_不支持
- “二选一”、“全网最低价”被列为新型垄断风险,《互联网平台反垄断合规指引》发布_竞争_行为_算法
- “血裁”下亚马逊员工自述:赔偿N+6,有60天冷静期,以后很难找到这么好的公司了_都有_工作_科技
- 对话吉大张伟:嫦娥六号月壤中首次发现天然单壁碳纳米管和石墨碳,或可用于月球基地建设_结构_样品_材料
- 今年红包大战的结局可能会不大一样_产品_技术_OpenAI
- 倒反天罡:「租个人」网站爆火,AI开始雇人「跑腿」了_人类_API_Keys_智能
- 全网疯传的 Clawdbot ,真一天能帮你赚 1500 元?_电脑_代码_Agent
- 马斯克否认SpaceX制造星链手机传闻,怒斥外媒“谎话连篇”_Cell_技术_硬件
- 利润腰斩,669亿“非洲之王”怎么“蔫了”?_传音_新兴市场_手机
- 利润腰斩,669亿“非洲之王”怎么“蔫了”?_传音_新兴市场_手机
- DeepSeek更新后被吐槽变冷变傻:比20年前的青春伤感文学还让人尴尬!业内人士:这一版本类似于极速版,牺牲质量换速度_模型_用户
- 消息称字节跳动正研发AI芯片,并与三星洽谈代工事宜_SeedChip_***_供应
- 当年轻人还在集五福,爸妈已经和阿福唠上了_父母_什么_子女





