11 月 3 日,全球知名游戏博主 PewDiePie 发布视频,展示其自建本地 AI 系统的全过程。该视频目前浏览量已经超过 300 万,视频标题则赫然写着双关梗 “STOP: Using AI Right now”。
到底 PewDiePie 要停止使用怎样的 AI?又要开始使用怎样的 AI?
他投入 2 万美元,组装了包含 10 块英伟达GPU(含 8 块改装版 RTX 4090 和 2 块 RTX 4000 Ada)的本地系统,支持 700 亿至 2450 亿参数的大模型运行,全程无需依赖云计算。 通过 vLLM 框架,他试验了 Qwen-235B 等模型,构建了具备搜索、记忆、RAG(检索增强生成)和音频输出功能的定制化 AI 界面。
要知道 PewDiePie 是海外游戏博主顶流中的顶流,Youtube 粉丝超 1.1 亿,Ins 粉丝 2 千万。他下场部署本地 AI 引起全网巨大轰动。
你只是在租用大公司的算力 + 模型 + 前端,这个环节里没有任何东西是属于你的。
隐私无忧。关于 AI 大厂如何管理及使用用户数据医疗记录、公司文档再也不用上传第三方。
性能全掌控。本地推理意味着大大减少复杂外在环境的不可控性。再也不用忍受 Chatbot 想半天以后告诉你 “网络错误,请重试”。
模型自由选用。在 gpt-5 被大家诟病但一众广受好评的就模型被一刀切拿掉的同时,开源模型越来越卷。几乎每周都有新的模型推出,小而美到巨无霸,选择非常多,统统供你差遣。
为了跑最新的大模型就去购买几张 A100、几张 4090 并不是普通用户会去考虑的选择。
其实你有没有想过 —— 一台 M3 Ultra Mac Studio、一台游戏本、再加上隔壁工位的 Windows 主机,就能组成一个媲美企业级 AI 推理集群的「本地超算网络」?
我们非常乐意看到更多团队为大家带来强力本地 AI 工具,让越来越多人拥有和创造 AI,而不只是从大公司租用闭源服务。
Parallax不只是一个工具 —— 它是自主本地 AI 时代的全自主化操作系统。
它是全球首个「全自主 AI 操作系统」,由 Gradient 团队打造并开源,Parallax 的目标只有一个:
该系统支持在 Mac、Windows 等异构设备上跨平台、跨地域部署大模型,让用户完全掌控模型、数据与 AI 记忆。Parallax 内置网络感知分片与动态任务路由机制,可根据推理负载实现智能调度,在单机、本地多设备、广域集群三种模式间无缝切换。目前,Parallax 已兼容 Qwen3、九游官网Kimi K2、DeepSeek R1、gpt-oss 等 40 余种开源大模型。开发者可以进行本地部署,以完全自主的方式构建并运行编程助手、个人智能体,多模态生成等多种 AI 应用,将所有敏感数据与控制权限均保留在本地。
LAN 集群 (Co-Host):与朋友或同事组建本地集群,部署较大的模型
WAN 集群 (Global Host):通过广域网,与遍布全球的机器一起部署和运行超大模型
通过动态 KV 管理与连续批处理,Parallax 的目标是媲美商业服务器的高并发,可以为你的个人设备带来更高吞吐量。隐私与性能,无需做选择。
Parallax 的 Github Repo 还是比较清晰的,无论是什么类型的电脑都可以按照引导开始上手。
推荐感兴趣的 AI 爱好者,或者重度硬件爱好者可以前往尝试,看看怎么组合自己的设备运行喜欢的模型:
如果你是科研党,想要了解更多 Parallax 的背景和测试环境,他们的论文也值得一读。
宣布开源后,Parallax 团队也在持续更新,支持了包括 Kimi K2 Thinking 等最近一些广受欢迎的大模型。希望早日看到他们对多模态模型的支持,这将进一步提升本地 AI 的想象空间。
本来这篇文章就在这里告一段落了。但是发文前,突然发现 Parallax 最近发布了一个活动,类似小型黑客松。参与门槛很低,奖品却很给力, 大家有兴趣的话不妨参与。
你只需要以图片、视频等方式记录下自己使用 Parallax 搭建与运行本地 AI 的成果,并在社交媒体发帖,就可以参与到评选当中。大奖是一台 DGX Spark 与若干台 Mac Mini。
在小红书搜索 “我的 AI 实验室”,就可以了解更多详情了。九游官网活动到月底结束,要参与的朋友们赶快尝试起来吧。
联系我们
第一时间了解我们的新产品发布和最新的资讯文章。
九游数字游戏服务有限公司成立于重庆,是一家专注于数字游戏服务应用领域的高新技术企业。公司以“九游官网”及“九游平台官网”为核心,致力于为全国玩家提供高品质的一站式数字游戏服务。截至2024年末,公司旗... 您有什么问题或要求吗?
点击下面,我们很乐意提供帮助。 联系我们