← 返回全部手记

为什么我要让 AI 留在你的电脑里

模型会变强,产品形态也会变。但一个人的生活,应该始终由这个人自己保管。

做懒猫的时候,我越来越在意一个问题:如果一个 AI 真能记得你的一切,那这些记忆最后应该放在哪里?

它可能知道你最近在为什么烦心,跟谁说话会开心,什么工作让你疲惫。单独看,每一条都很普通。放在一起,日子久了,就慢慢拼出了一个人。这样的东西,我很难放心交给一台自己看不见、也管不了的服务器。

所以我想把懒猫往全本地的方向做。模型在你的设备上运行,理解你的过程也留在那里。这是我愿意长期投入的方向。

一个人的生活,应该由这个人自己保管。

我不希望用户自己的数据被字节跳动、Meta 这样的巨头公司把持,也不希望换了一代技术,保管这些数据的权力就顺势交给了基模公司。公司可以提供很好的工具,但使用工具,不应该意味着把自己的生活也交出去。

尤其是那些只会对私人助手说的话。你告诉它一段经历,是希望它理解你、帮你记住。这样的托付,不应该默认变成训练素材,更不应该在你不知情、没有明确同意的时候,被拿去训练或蒸馏另一个模型。一个人愿意被理解,不代表他愿意成为别人的原料。

我也不想把这一切建立在「相信我们」上。今天的承诺可能很认真,但公司会换主人,商业模式会变,服务也可能停止。用户不该为了保存自己的记忆,一直赌一家公司的未来。

全本地让我有机会把这份决定权还给用户。

如果理解你所需的模型和记忆都在自己的设备上,断网以后,它仍然可以陪你。你不需要为了让它读懂一句私人的话,就先把这句话交到远处。服务提供者也不必持有你的生活,才能向你提供服务。

当然,仅仅写上「本地」两个字还不够。我希望用户能看见它记了什么,决定哪些可以留下,哪些应该忘掉,也能把记忆带走。权限要清楚,删除要算数,离开一个产品不应该等于失去自己积攒的日子。这些都是我接下来要持续做好的事情。

如果用户愿意为某一次任务选择云端模型,也应该清楚地知道,这一次会发出什么。选择权在用户手里,才有讨论方便和能力的前提。

眼下,本地模型还需要做很多取舍。

内存有限,速度要照顾,理解复杂事情的能力也有差距。刚发布的懒猫 Mac 版 0.1.6 接入了 MLX 本地模型:下载好模型以后,可以在本机看图、聊天、调用工具。这是一个具体的开始,距离我理想中的私人助手还有很长的路。

我相信,未来会有一个能在个人设备上运行、具备今天 Opus 4.6 那样能力的模型。我不知道它什么时候到来,也不想替它许诺日期。但我愿意朝着这个未来做产品:等能力逐渐到位时,用户已经有了属于自己的记忆,也有了自己能掌握的使用方式。

到那时,产品形态也许已经不是懒猫。可能没有桌面上的这只猫,甚至没有一个需要专门打开的 App。现在的界面、交互和名字,都可以变化。

我更在意的是,那个真正了解你的 AI,能不能一直由你掌握。它应该可以换模型,可以换外壳,而你不必一次次把自己的人生搬进另一家公司的围墙。

对我来说,只有把这种掌握权交还给用户,才有可能让人彻底放心:你可以让它很了解你,因为那些被理解、被记住的生活,始终属于你。