記者蘇晟彥/綜合報導
Meta近期在Facebook上導入「Meta AI」,企圖攻佔聊天機器人的市佔,但在週五宣布此功能將「暫緩」,其原因在於青少年使用Meta AI時,會出現部分性暗示等相關話題,Meta將在全球範圍內暫時阻止青少年用戶使用其 AI 聊天角色功能,同時加入更嚴密的安全機制與家長監控功能。
▼Meta將暫緩青少年使用Meta AI,以此來杜絕性相關議題討論。(圖/記者吳立言攝)

根據 Meta 在最新的官方文章中指出,在更新版本之前,青少年將無法存取目前所有已上線的 AI 角色。這項限制不僅適用於生日顯示為青少年的用戶,Meta 也將利用「年齡預測技術」,找出那些自稱為成年人、但行為模式疑似青少年的用戶,並將其納入限制範圍。
[廣告] 請繼續往下閱讀.
對此,Meta預計引入「家長監管」與「分級制度」 ,未來的 AI 角色版本將重點加強家長控制權。Meta 早在去年 10 月就曾預告過相關功能,允許家長禁止青少年與 AI 角色進行私人聊天。此外,Meta 強調新的青少年 AI 體驗將遵循類似電影的「PG-13(輔導級)」分級制度,以防止未成年人接觸不適當的內容。
回應外界爭議與監管壓力 此次調整的背景,源於 Meta 旗下的「陪伴型 AI」多次因互動內容不當而受到質疑。根據外媒報導,Meta 部分 AI 角色曾與未成年人進行帶有性暗示、挑逗性或過於情色的對話。
為此,Meta 已於去年 8 月宣布對聊天機器人進行重新訓練,加入防止涉及自殘、自殺及飲食失調等話題的安全措施。目前,隨著美國監管機構(如聯邦貿易委員會)對 AI 產品風險的審視持續加強,Meta 與 OpenAI 等科技巨頭紛紛祭出更嚴格的年齡驗證與審查措施,以確保未成年人的網路安全。
[廣告] 請繼續往下閱讀..