
当今大多数AI系统通过每秒数十亿次开关晶体管来运行,消耗着巨大的能量。由知名AI研究人员创立的一家初创公司提出了一种根本不同的方案:一种完全不进行开关切换的芯片,而是让物理振荡器自行陷入同步模式,并将结果称为图像。
Unconventional AI由Naveen Rao(曾任职于Databricks、Nervana Systems和Intel)、Michael Carbin(MIT)、Sara Achour(Stanford)以及前Google工程师MeeLan Lee共同创立,于6月发布了其首个模型。这款名为Un-0的产品是一个基于模拟耦合振荡器网络构建的图像生成器,而非传统的晶体管逻辑电路。该公司声称,该架构的能效可能比传统AI硬件高出1000倍。
这一说法非同寻常,但其背后的物理学原理并非如此。
同步即计算
该原理源于藏本模型(Kuramoto model),这是一种对耦合振荡器行为的数学描述。放置在共享表面上的两个节拍器,以略有不同的速率摆动,会逐渐同步,最终锁定在同一节奏中。同样的现象也出现在同步闪烁的萤火虫、心脏起搏器细胞和大脑神经元中。
在Un-0的架构中,数千个虚拟振荡器被物理连接在一起。每个振荡器都有一个相位,描述其在周期中所处位置的角度。振荡器网络中不同的相位角度模式编码了不同的图像。”鞋子”由一种相位配置表示,”火车”由另一种表示。
要生成图像,一小部分振荡器被预设为目标相位模式,这就是”提示”。当连接到更大的随机相位振荡器组时,控制组将整个系统拉向与目标模式的同步。收敛后,生成的相位值网格被送入解码器,将数字转换为像素颜色。
效率从何而来
在传统AI芯片中,每次操作都需要晶体管在开和关状态之间切换,每次都会消耗能量。大型模型的单次推理可能涉及数万亿次这样的切换。
基于振荡器的方法用连续的物理动力学取代了离散的开关切换。电流流经自然振荡的闭合回路。没有强制开关,也没有能量浪费在维持晶体管位置上。系统通过同步的物理学而非逐步的逻辑计算来达到答案。
“耦合藏本振荡器系统提供了在以前未曾达到的规模上通过物理动力学学习的可能性,”该公司在宣布Un-0的博客文章中写道。
基准测试结果
当前版本的Un-0运行在振荡器的软件模拟上,而非物理硬件上。该公司声明的目标是构建定制的基于振荡器的芯片。
在标准图像生成基准测试中,Un-0产生的FID(Fréchet Inception Distance)分数与早期的图像生成模型(如Google的BigGAN和OpenAI的iDDPM)相当。使用16,384个振荡器,它在ImageNet 64×64上实现了6.74的FID,该指标衡量生成图像与参考图像的匹配程度,数值越低越好。
这些结果尚未达到当前最先进水平。”传统生成器在绝对质量和参数效率上仍然更强,用新算法和模型架构缩小这一差距是未来的工作方向,”该公司承认。
未来之路
Un-0是一个概念验证,而非商业产品。从振荡器的软件模拟到实现1000倍效率提升的物理芯片,这条道路漫长且充满不确定性。该公司在Lightspeed、Andreessen Horowitz、Sequoia和Jeff Bezos的支持下,以45亿美元估值筹集了4.75亿美元的种子资金,表明投资者愿意等待。
这项研究的更深层意义可能在于架构而非商业。AI硬件的标准假设是,更好的芯片意味着更快的晶体管。Un-0挑战了这一假设,它质疑计算是否可能看起来不像逻辑而更像物理学,一个耦合元素的网络陷入编码答案的同步状态。
婷 翻译

