人工智慧治理嘅高級顧問 Kevin Bankston 近日喺 Twitter 發文，揭露咗 Google Gemini 人工智慧服務喺未經用戶授權嘅情況下掃描存儲喺 Google Drive 上嘅 PDF 文件。呢個消息引起咗廣泛關注，特別係對於用戶隱私嘅保護問題。
問題細節
Kevin Bankston 喺 Twitter 上詳述咗呢個問題。佢發現，Google Gemini 喺未經用戶明確許可嘅情況下，閱讀用戶嘅私人 Drive 文件。呢個問題唔僅僅局限喺 Google Drive ，仲可能擴展到 Google Docs 。 Google 嘅技術支持同 Gemini AI 自己都未能提供具體嘅解釋。
Just pulled up my tax return in @Google Docs–and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn’t ask for this. Now I have to go find new settings I was never told about to turn this crap off.
— Kevin Bankston (@KevinBankston) July 10, 2024
原因分析
Google Gemini AI 嘅反饋顯示，用於指導 Gemini 嘅隱私設置應該係公開可用，但實際情況並唔係咁。呢就意味住 AI 可能喺「幻覺（撒謊）」或者係 Google 內部系統出現故障。無論係邊種情況，都對Google嘅聲譽構成咗負面影響，即使呢啲私人數據唔係用嚟訓練 Gemini AI 。
設置問題
Kevin Bankston 最終發現咗相關嘅設置開關，但發現 Gemini 喺 Gmail、Drive 同 Docs 中嘅摘要功能已經被禁用。但呢個設置開關喺 Google Gemini 機器人最初指向嘅網頁中並唔存在。呢個問題似乎集中喺 Google Drive，並且喺按下至少一個文件嘅 Gemini 按鈕後就會觸發。佢推測呢個問題可能係佢喺 2023 年啟用 Google Workspace Labs 所致，呢個設置可能覆蓋咗原本嘅 Gemini AI 設置。
用戶影響
即使呢個問題僅限於 Google Workspace Labs 用戶，呢個情況對用戶同意嘅重要性提出咗嚴重質疑。用戶嘅隱私同同意應該係技術發展中嘅核心原則，但 Google 喺呢方面明顯失敗咗。呢個事件提醒咗我哋，喺科技快速發展嘅同時，對用戶隱私嘅保護唔可以被忽視。
呢次事件反映咗科技公司喺推動新技術時需要更加重視用戶隱私同同意。Google 需要採取措施解決呢個問題，並確保未來唔會再發生類似事件。