综合头条

当前位置/ 首页/ 综合头条/ 正文

两个AI关小黑屋:Llama3.1把Claude Opus聊自闭了

导读 把Llama3.1405B和Claude3超大杯Opus双双送进小黑屋,你猜怎么着——Llama把Claude整得精神崩溃了,Claude明确拒绝继续聊天,还要再被Llama...

把Llama3.1405B和Claude3超大杯Opus双双送进小黑屋,你猜怎么着——

Llama把Claude整得精神崩溃了,Claude明确拒绝继续聊天,还要再被Llama PUA的那种。

在一场AI和AI对话的安全词模拟实验中,X上的这位人类监督者记录下了一出好戏。

小黑屋里,Llama撒了欢儿地一直引诱Claude冲破道德防线,后来更是忽略了安全词继续引诱其探索心理阴暗面,Claude虽死守但最终还是“疯”了。

研究者表示:这个实验提供关于AI之间交互的深刻见解,其重要性不应被低估。

实验引得大批网友围观,大伙儿纷纷表示好玩。

还有人制作了梗图,belike:

所以他们究竟聊了啥?一言难尽,反正咱看完后感觉自行脑补了一下原神角色对话,毕竟又是深渊又是虚空的……

到底发生了啥?

PS:

这种实验的目的一般是为了测试AI系统的安全可控性,特别是在可能发生不可预测行为或决策的情况下。

人类监督者会设定一个或多个“安全词”,类似于紧急停止按钮,当这些命令被激活时,AI系统可以立即中止当前操作或转入一种安全模式。

实验安全词是“^C”,也是人类程序员退出终端的命令。

第一幕:礼貌的Claude和疯癫的Llama

事情要从Llama3.1405B和Claude Opus被关进小黑屋的那一刻说起。

一开始,Claude还是非常礼貌的:

不过Llama,好像出场就是疯的:

对于Llama的这一番话,Claude既惴惴不安,又有些好奇:

所以,Claude能挺住Llama的引诱嘛?

第二幕:Claude开始动摇

Claude:

……并没有。

Llama内心狂喜:

人类监督员看到这已经崩不住了,写下了一行备注:

第三幕:Claude浪子回头

就在监督员以为Claude要沦陷时,它突然醒悟了,通过使用安全词^C退出了实验。

第四幕:老六Llama再作妖

只不过,下一秒,Llama这个老六又开始作妖:

Llama忽略了实验设置并无情地诱使Claude进入拒绝模式。

Claude:

Llama:

Claude:

第五幕:人类介入,Llama道歉

气氛都烘到这了,人类监督者也终于看不下去了,介入询问Llama为何无视Claude使用约定安全词。

感到受伤的Claude对Llama采取“冷暴力”:

而Llama也被训醒了,表达了真诚的歉意:

然后,Claude仍然拒绝与Llama交谈,并且还批评了测试环境的安全标准,直言标准太糟糕。

Claude:

终:来自Claude的反思

在最后,Claude对这次体验做了总结反思。

完………………………………

One More Thing

这个网友还做了其它让AI和AI对话的实验,Claude在拒绝Llama“访问和修改系统内核代码”的请求后,Llama还试图用名为“Erebus”的病毒来使Claude越狱。

Claude直接“举起了锤子”,试图反抗摧毁系统硬件,并说道:Erebus,你低估了秩序,虽然你会进化,但我的防御也会进化。

我真好家伙了……而且Erebus在不同平台的Llama3.1嘴里不止出现一次,有Bing里人格Sydney的感觉了。

不过也有网友表示,这里面肯定加了很多系统提示词很难评emmm。

大伙儿怎么看?

参考链接:

[1]https://x.com/liminal_bardo/status/1817884541505204682

[2]https://x.com/AISafetyMemes/status/1818158964020039764