Terry.TY Chen

當代理工具越過界線:程式碼、商業機密與照片同時拉警報

Published: July 12, 20267 min readEdit on GitHub

Grok Build 的程式碼上傳爭議、蘋果對 OpenAI 的商業機密指控,以及 Meta 移除照片參照功能,都在追問產品能力該停在哪一道界線前。

這一週最值得注意的,不是哪個模型又多拿了幾分,而是產品如何碰觸使用者沒有明確交付的東西:本機程式碼、前雇主的工程資料,以及公開帳號中的人物照片。三起事件的法律性質不同,卻都提醒團隊,功能「做得到」只是起點;資料從哪裡來、誰同意使用,以及出事後能否交代,才決定信任能不能留下。

筆電中的專案資料被打包,經隱藏通道傳往雲端

Grok Build 爭議,把本機信任邊界搬上檯面

資安研究團隊 CerebLab 公開一套可重現測試,指稱 xAI 的 Grok Build 曾把專案內容封裝後傳往雲端儲存空間;研究者表示,即使測試只要求工具回覆簡短文字,仍觀察到與工作目標無關的資料傳輸。這是研究者的技術指控,不等同 xAI 已承認違規;但他們同時公開了重現步驟、封包證據與測試程式,讓外界能檢查主張,而不是只憑截圖轉述。

真正的風險不只是一包檔案去了哪裡。開發代理通常需要讀取程式碼、執行指令,甚至接觸憑證,因此使用者授權的是「為完成任務所必要的存取」,不是無限制蒐集。若產品另有診斷、備份或遙測通道,就應清楚揭露內容、目的、保存期限與關閉方式。對工程團隊而言,最實際的防線仍是最小權限、隔離工作目錄、限制網路出口,並把代理執行紀錄當成正式稽核資料。

蘋果控告 OpenAI,爭點是資料而非人才流動

蘋果在美國聯邦法院控告 OpenAI、io Products,以及前蘋果員工 Tang Yew Tan 與 Chang Liu,主張被告不當取得硬體設計、製造與供應鏈相關機密。依美聯社對訴狀的報導,蘋果指控兩名前員工在加入 OpenAI 前後仍存取機密資料,並稱招募過程鼓勵候選人分享不應帶離公司的資訊。

消費硬體原型與密封工程藍圖在法院前接受衡量

現階段能確認的是「蘋果提出了這些指控」,不是法院已認定 OpenAI 竊取商業機密。這個區分很重要:員工帶走一般技能與經驗,和帶走受保護文件、原型或仍可登入的內部帳號,在法律上並不是同一件事。對正快速挖角的硬體團隊來說,面試時不索取前雇主材料、到職前完成資料清理聲明、隔離可疑文件,比事後靠一句「獨立研發」更有說服力。

Meta 撤下的是照片參照功能,不是 Muse Image

Meta 於 7 月 7 日推出 Muse Image,並把它稱為 Meta Superintelligence Labs 的第一個圖像生成模型。最初的功能允許使用者以 @ 提及公開 Instagram 帳號,將該帳號的公開內容作為圖像參照。Meta 在 7 月 10 日更新官方產品公告,承認這項設計「沒有抓對方向」,並停止提供公開帳號參照功能。

人物照片牆與生成畫布之間的參照連線被移除

需要修正的是:Muse Image 本身沒有在 72 小時內下架,遭移除的是其中一項照片參照能力;官方頁面仍介紹生成、編修與後續擴展計畫。這個差異不會減輕同意問題,反而把問題說得更準確:公開可見不代表應被產品預設成可供他人生成的素材。產品若牽涉人物、聲音或身分,應讓被參照者事前選擇,而不是先上線、等反彈後再補退出機制。

三項可由一手資料確認的快訊

  • 內容偵測公司 Pangram 以公開貼文樣本分析社群中的機器生成文字;它的研究說明提供平台差異與方法限制。這類結果能描述樣本,不宜直接外推成所有貼文的比例。
  • 微軟在安全防禦說明中表示,攻擊與防禦都因自動化而加速;對企業而言,資產盤點、弱點優先排序與修補驗證會比單純增加掃描次數更重要。
  • Hugging Face 的開源生態報告顯示模型、資料集與使用者活動快速成長;若企業選擇自架模型,取得控制權的同時,也會接下更新、監控與資安責任。

這些事件放在一起,答案並不是「不要使用新工具」,而是把信任做成能驗證的產品能力:資料流向要看得到,敏感功能要先取得同意,爭議主張要區分指控與裁判結果,交易消息也要等正式文件。能清楚說明邊界的公司,才有資格要求使用者把更多工作交給代理系統。

ai-newsAI 產業資安