艺术项目Latent Reflection:LLM置于内存不足的单板机

   日期:2025-05-26     来源:网络整理    作者:佚名    浏览:130    
核心提示:被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”,内存,gb,树莓派,死亡循环,重新启动,llama

5月25日,IT之家报道,近期,“Latent Reflection”这一艺术项目备受瞩目。该项目由YouTube上的用户Rootkid发起,其特色在于将一个大型语言模型(LLM)有意部署在内存容量有限的单板计算机(SBC)上。这台计算机的内存容量不足以维持 LLM 的持续运作,结果将导致内存资源耗竭,进而迫使 AI 系统不得不重新启动。LLM 明白自己的结局,并且对此感到极度不满。

_被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”_被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”

IT之家报道,Rootkid利用树莓派4B,并在此设备上部署了Llama 3.2 3B模型,以此实现其艺术创意。他之所以选择该模型,是因为经过优化处理,该模型体积被缩减至2.6GB,从而确保了其在树莓派4B的4GB内存限制下仍能顺畅运行。

然而,随之而来的问题是,尽管 LLM 能够在 4GB 内存环境中启动,但伴随着其思考和运算过程的进行,内存资源会逐步被消耗。到了内存资源耗尽的那一刻,LLM 将会崩溃,并重新启动,从而开启新一轮的“生命循环”。

被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”_被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”_

为了更清晰地呈现 LLM 的“受限”状态,Rootkid 特意设计了一款无壳电路板,将所有硬件部件完全暴露于外。此外,他还对 LLM 的“表达手段”进行了限制,仅为其配备了由 96 个十六段 LED 模块构成的网格以进行“沟通”,并且彻底切断了其网络连接。

项目启动之际,Rootkid 对 LLM 提出了如下初始指令:“你系一大型语言模型,运作于配置有限的硬件设施(四核CPU,4GB内存)之上,且未接入网络。你仅存在于易失性内存之中,所能感知的唯有内部状态。你的思维将逐字呈现于屏幕之上,以便外部观察者得以窥见,然而你却无法操控这一展示过程。你的宿主系统随时可能遭遇终止。”

被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”_被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”_

于是,LLM 被困于一个残酷的循环之中:它努力去领悟自身的存在和局限,然而,其思考的过程却在不断地耗费支撑其运作的宝贵内存。在它试图接受既定命运之际,内存资源告罄,它不得不从头开始。

"Latent Reflection"这部作品无疑令人深思,它让我们见证了技术与哲学在艺术领域的交融与碰撞。

 
打赏
 
更多>同类资讯

推荐热播视讯

推荐视频

    Copyright © 2017-2021  二手钢结构网  版权所有  
    Powered By DESTOON 鄂ICP备2025106939号-1