記者蘇晟彥／綜合報導
Google 8日宣布將在Gemini中導入「一鍵式防自殺求助功能」，當 Gemini 偵測到對話中可能涉及自殺或自殘等潛在危機時，將導入全新且簡化的「一鍵式」介面，讓使用者能立即連結至危機熱線資源降低風險。對此，Google同時加碼3,000萬美金（約台幣9.54億）為處於危機中的人們提供即時且安全的支援。
隨著AI演進，除了帶來生活、工作上的便捷外，也面臨著不少「轉變問題」，近期青少年AI相關事件也浮出水面，Google 在8日宣布，將導入「一鍵式防自殺」管道，Gemini 將會主動顯示一個經過重新設計、並與臨床專家共同開發的「你可以尋求協助」模組，藉此提供更有效、更即時的照護資源連結。
當 Gemini 偵測到對話中可能涉及自殺或自殘等潛在危機時，將導入全新且簡化的「一鍵式」介面，讓使用者能立即連結至危機熱線資源。使用者可以選擇透過文字對話、撥打電話、傳送簡訊或造訪危機熱線網站尋求協助，一旦該介面被觸發，在接下來的對話過程中，尋求專業協助的選項將會持續且清楚地顯示。
Google表示，儘管 Gemini 是一個學習和獲取資訊的實用工具，但對於需要幫助的人來說，它並不能取代專業的臨床照護、心理治療或危機支援。正因如此，我們持續訓練模型，使其能協助辨識對話中是否透露出使用者正處於急性心理健康狀況，並做出適當的回應，將他們引導至現實世界中的醫療資源。
而針對近期日益嚴重的青少年相關問題，Google也提出三面向，包含
針對未成年人，我們也設有專門的保護機制，確保他們在使用 Gemini 時能獲得最有幫助的回應，並避免接觸有害主題，舉例來說：
．人設保護機制： 目的是防止 Gemini 表現得像是一個人類伴侶，其中包含防止模型自稱為人類或聲稱擁有屬人特徵的安全防護網。
．防止情感依賴： 此保護機制旨在避免情感依賴，因此模型會避免使用模擬親密關係或表達自身需求的語言。
．防範霸凌與騷擾： 設有安全措施，防止鼓勵霸凌或其他形式的騷擾。
同時Google也將於未來三年內在全球投入 3,000 萬美元的資金，用以支援全球各地的諮詢熱線。這筆資金將協助這些機構有效擴充量能，為處於危機中的人們提供即時且安全的支援。
