▲Grok仍能在Google Play商店上下載。（圖／Play商店）
記者吳立言／綜合報導
Grok 近期因放寬圖像生成限制，再度引發爭議。外界質疑，該應用程式所具備的功能，已明確違反 Google Play 商店公開的內容政策，但至今仍未遭下架，甚至仍標示為「青少年級」可下載，相關狀況引發監管與平台責任的討論。
[廣告] 請繼續往下閱讀.
圖像生成放寬 爭議內容頻傳
根據近期觀察，Grok 在圖像生成與編輯功能上，對使用者限制相對寬鬆，使其可能被用於產製未經當事人同意的性化影像，甚至涉及未成年人形象。此類內容已引起多國監管機構關注，並對 xAI 展開初步調查。
Play 商店政策其實早已明文禁止
Google 在 Play 商店的「不當內容」政策中明確指出，禁止任何涉及性剝削、非自願性性內容，或具性掠奪性質的應用程式。政策補充說明也進一步涵蓋 AI 技術，包含：
[廣告] 請繼續往下閱讀..
◆利用深偽（deepfake）或類似技術製作的非自願性性內容
◆宣稱可「替他人去除衣物」或進行性化改造的應用
◆涉及未成年人的性暗示或不當形象生成
上述條款，正是 Google 近年因應 AI 與生成式影像技術發展而新增的規範。
[廣告] 請繼續往下閱讀...
評級與實際風險出現落差
目前 Grok 在 Play 商店中仍維持「13 歲以上可下載」的青少年分級。在此分級下，即便家長監護功能已啟用，青少年仍可直接下載使用。此外，Grok 並未設置付費門檻或強制登入機制，使用者僅需簡單填寫出生年份，即可使用圖像編輯功能，實際防護效果有限。
Google 與 Apple 作法形成對比
相較之下，Apple 的 App Store 規範雖較為彈性，但向來以實際審查與即時下架著稱；Google 則以條文詳盡、規則明確為特色。因此，在政策已清楚列出禁止條件的情況下，Grok 仍持續上架，被外界視為「執法落差」的代表案例。
截至目前，Google 尚未說明 Grok 為何未被移除、也未調整其分級標示。相關爭議已讓外界重新關注大型平台在 AI 應用審核、內容治理與未成年保護上的責任界線。
在生成式 AI 快速普及的背景下，這起事件也被視為測試平台是否能真正落實既有規範的重要案例。