要點
- AI CRM 資料隱私由推理運行的位置決定,而不是由模型的品牌名決定。
- 托管模型助手把您的記錄作為子處理發給第三方供應商。
- 本機模型助手運行在您自己的部署內。Qivity 的 Lilly 在自托管時正是如此;托管套餐則在 Qivity 伺服器上運行 Lilly。
- 問任何供應商:哪些公司處理一次 AI 請求——要名字,不要類別。
過去兩年,每家 CRM 供應商都上線了 AI 助手。向其中一家問一個直白的問題——當銷售輸入“總結這個客戶”時,哪家公司的伺服器在處理我們的客戶名單?——答案通常長達三段。
不該如此。AI CRM 資料隱私恰好歸結為一個架構事實,而且隻有兩种可能的答案。差別決定了您的 CRM 是不是一個合規問題。
兩种架構
托管模型 AI 是幾乎每家主流 CRM 交付的東西。您的記錄被打成一段提示,經網際網路發往基礎模型供應商——OpenAI、Anthropic、Google,或供應商自己的托管集群。答案返回。供應商會告訴您資料不用於訓練,多數情況下這在合同上是真的。它仍然離開了您的大樓,越過了邊境,並經過了一個您並未選擇的子處理方。
本機模型 AI 在您自己的部署內部運行模型。提示從不接觸供應商不能控制的網路——在自托管安裝中,從不接觸您不能控制的網路。Qivity 兩种都提供:托管的 Lilly 運行在 Qivity 伺服器 上;自托管則運行在您的伺服器上。
對一個在頭腦風暴主題行的營銷團隊,第一种沒問題。對一条附帶具名個人、具名公司與商机金額的銷售管道,這是法務會問的問題。托管版 Qivity 用的是 Qivity 的伺服器,而不是 OpenAI。如果要求是資料從不離開您的網路,請自托管。
AI CRM 資料隱私對買家實際改變了什麼
三件事。
您的子處理方名單變長。 根據 GDPR 第 28 条 以及多數對等制度,托管模型 CRM 會在接觸個人資料的鏈条上增加一個子處理方。這需要披露,在受監管行業裡這可以談判——意味著以月計的采購周期。
資料駐留不再簡單。 您可以為 CRM 資料庫選擇一個歐盟區域,推理卻仍發生在別處。這是兩個獨立決定,買家卻常常以為是一個。
您的 AI 預算變成按量計費。 托管模型按量計量。助手的采用成了可變成本,這是一种奇怪的激勵,交給您正試圖讓其使用該工具的銷售團隊。
沒人承認的取舍
本機模型更小。一台您自己的 CPU 上的 30 億參數模型,不會為您寫戰略備忘,任何聲称可以的供應商都在向您推銷別的東西。
它真正擅長的,是 CRM 助手實際該做的工作:
- 理解一個人的意思——“利雅得有多少条線索?”、“周四我有哪些會議?”、“下周二 3 點提醒我給 Acme 打電話”。
- 把它路由到針對真實記錄的真實查詢。
- 准確引用產品文檔,而不是錯誤地改寫。
注意,這些都不需要創造性生成。它們需要意圖分類與檢索。這恰恰是小型本機模型擅長的工作量——也恰恰是幻覺傷害最大的工作量。一個自信編造的銷售管道數字,比完全沒有答案更糟。
這就是為何 Qivity 的助手被做成說“我不知道”而不是猜測,以及為何關於記錄的答案作為查詢、在提問使用者自己的權限下執行,而不是生成散文。經理詢問其團隊,得到其團隊。有人詢問同事的銷售管道,會得到一段禮貌的解釋:為什麼不行。
該問任何 CRM 供應商的五個問題
帶到下一次演示。猶豫本身和答案一樣說明問題。
- 當我使用 AI 助手時,哪些公司的基礎設施處理該請求? 要名字,不要類別。
- 這是否作為具名子處理方寫在 DPA 裡? 如果沒有,為什麼沒有。
- 推理實際發生在哪裡,我能否釘在某個區域?
- AI 用量是否與席位許可分開計量?
- 助手能否回答提問使用者無權查看的資料? 您會感到驚訝。給 AI 層做權限范圍真正很難,而且經常被跳過。
這正走向何方
本機模型進步的速度,快於托管模型變便宜的速度。讓托管推理在 2023 年成為顯然預設的能力差距,對檢索與路由類工作——也就是多數商務軟體所需要的——已經明顯收窄。
我們的判斷是:幾年之內,AI CRM 資料隱私——具體來說“模型在哪裡運行”——會成為每份企業軟體 RFP 的標准一行,就像 2018 年之後“資料存在哪裡”變成標准一行一樣。我們從一開始就按這個假設來建。
如果 AI CRM 資料隱私是您評估中的障礙,並且您想看看本機模型助手實際用起來是什麼感覺, 預約演示——我們會在一個沒有外網出口的沙箱上運行,讓您看著它照樣工作。架構的更多內容在 AI CRM 頁 與 安全頁。