AI(人工智能)现在无疑是最热门的话题,几乎每个人都渴望拥有一个属于自己的人工智能系统。然而,要在本地端运行AI模型,背后需要强大的运算能力,但并非每个人都有能力负担昂贵又庞大的云端伺服器。这对研究人员和学生来说尤其困难,他们若能在本地端直接运行模型,或者至少拥有一台强劲的小型电脑,将大大提升工作效率。

在今年的IFA展会上,Acer带来了一款令人惊艳的新产品——Veriton GN100 AI迷你工作站。这款产品重量不到1.5公斤,大小与Mac mini相仿,却搭载了NVIDIA最新的GB10 Grace Blackwell超级晶片,运算效能最高可达1 PFLOPS的FP4 AI表现,换算起来超过1000 TOPS的算力,令人惊叹。

虽然外观迷你,Veriton GN100的硬体配置却非常强大。整机体积仅150 x 150 x 50.5公釐,比一本稍厚的书还小,且重量轻巧,能轻松摆放于桌角或萤幕背后,非常适合研究室、个人创作者或企业内的AI开发团队使用。配备20核心的Arm架构处理器、128GB的LPDDR5x统一记忆体以及最高4TB的NVMe SSD,这些顶级规格让它堪比一台高阶工作站。

Veriton GN100最引人注目的是它专为本地端大型AI模型运行而设计,让用户可以直接在本机上开发、微调甚至测试大型语言模型(LLM),不再完全依赖云端资源。Acer还整合了NVIDIA全套AI软体支援,包括PyTorch、Jupyter以及热门的小型模型工具Ollama,确保用户能顺畅使用各类开发环境。此外,若未来需要将模型移转至云端或资料中心,也能轻松无缝衔接,保持生态系统的相容性。

如果一台设备的效能不足,Veriton GN100还能透过NVIDIA ConnectX-7 SmartNIC技术将两台主机串联,进一步提升算力,挑战高达4050亿参数的AI模型,媲美市面上最顶级的大型语言模型。

对于研究机构和创业团队而言,这意味著不用负担高昂的云端租用费用,就能在办公桌上高效完成大型模型的研发与测试,节省时间与成本,同时提升资料安全性。

在连接性和安全性方面,Veriton GN100同样表现出色,配备四个USB 3.2 Type-C埠、一个HDMI 2.1b接口、RJ-45乙太网路埠以及最新的Wi-Fi 7和蓝牙5.1。考虑到主要面向企业和学术单位使用,机身还配有Kensington防盗锁设计,有效降低本地AI运算过程中资料外泄的风险。

总结来说,Veriton GN100就像AI界的小钢炮,外表虽然低调迷你,但其强悍的性能堪比伺服器等级。它专注于本地端AI运算,让用户无需全盘依赖云端,不仅节省了长期的租用费用,也在保障资料安全方面更具优势。这款迷你工作站,无疑为AI本地化运用开启了崭新的可能。

林珮璇

热门新闻

阅读全文

【新加坡大选】行动党蝉联执政 工人党政治版图扩大

阅读全文

烧烤摊违反行管令 老板顾客全被对付

阅读全文
档案照

哈萨克爆发不明肺炎 致死率远高于新冠病毒

阅读全文

CNN记者讲述北京防疫 女主播惊讶摇头