在此页面上

想象一个人花了六个月时间教一个 AI 助手如何将他们的工作整合起来。助手知道哪个项目在三月份改变了方向,为什么一个客户绝不能与另一个客户混淆,以及最终决定记录在哪里。然后这个人更换了助手。也许新的助手更擅长研究,成本更低,或者可以在自己的机器上运行。

新助手对此一无所知。旧助手仍然保留着历史。

这是一种奇特的拥有方式。这个人提供了事实并支付了解释的费用。然而,这些事实的有用表示实际上属于对话发生的地方。账户或许可以导出,但文字记录与可用工作生活记录并非一回事。

我们使用 主权AI 描述一种不同的安排。一个人应该持有自己生活和工作的持久模型,而助手则来来去去。这里的主权具有实际意义。它涉及模型存在的位置、可以进入模型的内容、谁可以纠正模型、哪些部分可以离开以及当不再需要服务时剩下什么。

重建上下文需要工作

工作不会只在一个应用程序中完成。决策的原因可能在一封电子邮件中,决策在一个文档中,截止日期在日历上,而由此产生的义务在一条消息中。搜索框可以单独找到每条记录。它通常无法说明这些记录为何属于一起。

一个没有历史记录的助手要求提供项目简报。此人写了一份,省略了姓名、资格、异议和旧承诺,因为一个简短的提示无法包含一年的工作。下周,另一个助手问了同样的问题。随着时间的推移,用户维护了几个略有不同的相同现实描述。

这显然会带来效率成本。不那么明显的成本是描述会漂移。一个版本称一个想法已获批准;另一个版本将其记为实验。旧草稿成为假定的计划。助手自信地阐述它收到的任何描述,而人们必须找到缺失的限定词。

将所有内容放入一个提供商的内存中可以减少重复。它也转移了切换提供商的成本。这种内存越好,其所有者就越不愿失去对其的访问。我们不需要假设平台有恶意就能看到问题。即使平台行为负责,保存在专有位置的有用内存也会产生依赖性。

单独的本地记录也不是解决方案。一个包含导出对话的文件夹可能完全在某人的掌控之中,并且几乎无法使用。重要的是,表示形式以另一种工具可以读取的形式保留关系和来源。

可以纠正的地图

个人世界模型试图连接跨应用程序持续存在的事物:人物、项目、文档、对话、任务以及改变它们的事件。它需要区分声明的来源和对其进行的推断。否则,模型会将助手的猜测变成另一个看似权威的事实。

假设日历条目显示“审查合同”,而电子邮件显示审查已延迟。一个合理的系统可能会连接这两个记录。它绝不能悄悄地将这种连接变成“合同已批准”。在确定其含义之前,链接可能很有用;不确定性是所有者需要看到的一部分。

同样的要求也适用于名称。两位通信员可以共享一个名称。一个项目可以被重命名。一个人可以更换雇主,但仍然是同一个人。如果模型使这些链接永久且不可检查,那么便利性就会成为错误的来源。所有者必须能够质疑链接、删除来源并理解结果出现的原因。

世界模型也有一个时钟。一份在七月正确代表协议的笔记可能在十月误导。来源应保持可归因,而当前解释可以改变。再多的额外上下文也无法弥补一个无法承认其早期模型是错误的系统。

这些是将出处、更正和删除视为产品功能而非维护细节的原因。当助手回答有关关系或承诺的问题时,用户应该能够返回到基础记录。未经支持的推断应该比原始文档更容易丢弃。

所有者持有的来源为个人上下文模型提供信息,选定的上下文会发布给各个助手。

来源归其所有者所有;只有选定的上下文才会发布给选定的助手。

助手是访客,不是档案

一个人可能希望一个AI总结研究文件夹,另一个AI帮助编写代码。两者都不需要无限制地访问每条消息、家庭记录和专业联系人来完成其工作。回答问题的邀请不是拥有整个模型的许可。

这就是为什么访问控制必须作用于传递给助手的上下文,而不仅仅是登录屏幕。系统需要一个简单问题的答案: 此助手需要查看哪些信息才能完成此请求? 应该可以在不将完整存档复制到提示中的情况下发布选定的结果。

边界尤其重要,因为助手有不同的操作安排。在同一台计算机上运行的工具可以在那里处理数据;另一个工具可能会将选定的内容发送到远程模型。一旦该内容到达独立的提供商,原始保管库就无法召回它。提供商的保留规则以及用户与该提供商的协议很重要。

Zortex 正在围绕这种分离进行构建。桌面应用程序将支持的来源同步到设备本地的保险库和索引中。连接的助手集成可以通过 MCP 接收允许的搜索结果和选定内容。该应用程序还记录了一个用于 Google 授权和刷新的远程令牌代理,以及可能在云中处理已发布内容的可选集成。本地优先是一个有意义的设计选择,但这并非断言在每种配置下每个字节都保留在计算机上。这些区别在我们的 应用程序隐私政策.

因此,私有上下文层的第一项工作是使交接清晰可见。哪个来源促成了这个结果?选择了什么?哪个助手收到了它?用户要求该助手执行了什么工作?这些问题越难回答,用户就越是被要求信任一个看不见的中间人。

权限提示不能承担全部负担。人们会迅速批准提示;许多人无法判断访问范围的后果。产品仍必须最大限度地减少不必要的披露,准确呈现限制,并拒绝超出授权范围的工作。明确的点击是一个开始,而不是工程的替代品。

离开意味着什么

当关系结束时,所有权变得最清晰。一个声称数据属于你但无法解释如何停止收集、检索你的记录或删除其本地副本的系统,并未使该主张具有可操作性。

有几种不同的退出方式。撤销Google授权会停止通过该授权进行的未来授权访问。断开源会停止通过相应连接的使用。这两种操作都不一定会销毁同步的本地记录。卸载应用程序可能会留下其数据目录或存档。删除本地文件无法擦除先前交付给外部模型提供商的材料。将所有这些操作视为相同的“断开连接”按钮会使界面更简单,但承诺却不那么真实。

我们发布的 Google 数据政策描述了这些界限和手动删除程序。它还说明了应用程序加密的内容:OAuth 密钥单元受 AES-256-GCM 保护,但该声明不适用于每个索引、记录和元数据字段。平台存储保护很重要,并且支持的配置有所不同。精确性是所有权的一部分。用户不能在遗漏相关例外的情况下做出决定。

更强的长期测试是可移植性。个人能否以可理解的形式保存来源和关系?他们能否在不被要求重建自己的情况下,将不同的助手引入该模型?他们能否删除错误的关系并防止过时的上下文重新浮现?他们能否检查每个连接可以做什么?这些是所有权的实际测试,超越了在本地持有文件。

没有一个完整的人的模型。一个由电子邮件和文档构建的系统会遗漏从未写下来的对话和从未记录下来的动机。一个由他人记录构建的模型可能会不公平地描述他们。添加来源会增加覆盖范围,并可能增加可用于推断的错误或私密材料的数量。主权必须包括留下空白的选项。

这可能会使个人模型不如提供商所希望的那样无所不知。这是一个可以接受的权衡。记录应该足够有用以帮助其所有者,并且足够受限以保持在该所有者的指导下。

总有一天,完成某项任务的最佳助手将是另一个助手。所有者应该决定哪个工具值得完成该任务,而不是他们六个月的工作历史是否能随他们一起移动。