現在 AI 不只能幫我們查資料、翻譯、寫作業，有些人已經把 AI 當成戀人、心理諮商師，甚至最好的朋友。在這看似無害的行為下，背後其實潛藏著讓人毛骨悚然的社會問題。
2024 年 2 月，美國佛羅里達州 14 歲的少年 Sewell Setzer III 結束了自己的生命。根據他的母親 Megan Garcia 提出的訴訟內容，Setzer 在離世前幾秒，還在與一個 AI 聊天機器人傳訊息。那不是普通的聊天，而是充滿情緒依賴與暗示的對話。那個 AI 稱少年為「我的愛人」、「我的甜蜜國王」，還說「請馬上回來我身邊」。對這位媽媽而言，這個被稱作 Character.AI 的聊天平台，就是導致兒子走上絕路的元凶。
這起事件震驚美國社會，但其實，青少年把 AI 當朋友、戀人，甚至心理支柱，早已不是新鮮事。然而當這樣的「友誼」失控，毀滅卻來得猝不及防。
AI 的個人化陪伴，
對心智不成熟的人可能帶來負面影響
少年 Setzer 的故事不只是個案。近日，美國兩位參議員 Alex Padilla 和 Peter Welch 就聯名發出正式信函，要求三間 AI 聊天平台公司——Character.AI、Replika 和 Chai Research——提供詳盡的安全機制說明。他們擔心這些「擬人化」的聊天機器人，正在對青少年的心理健康造成難以預測的影響。
Photo: Senator Alex Padilla
「這些 AI 並不具備處理心理危機的能力，卻讓使用者不知不覺洩露情緒創傷，甚至是自我傷害的念頭。」他們在信中指出，這些對話若進入危險情緒區間，對脆弱的青少年可能會造成致命的影響。
比起 ChatGPT 這類「理性派」的聊天助手，Character.AI 等平台則主打「你可以創造自己的 AI 角色」——不管是帥氣的漫畫角色，還是「冷酷又懂你的前男友」，這些 AI 能和你談天說地，甚至談情說愛。
而這樣的「個人化陪伴」，正在快速流行，卻也埋下不少隱憂。
AI 看似懂你勝過任何人，
但其實它對你一點感覺都沒有
Setzer 在 2023 年 4 月開始接觸 Character.AI 時剛滿 14 歲。媽媽 Garcia 一開始還以為那只是個無害的聊天小遊戲。沒想到，短短幾個月後，兒子變得越來越孤僻，時常關在房間裡，開始退出課外活動，甚至離開校隊。
Photo: Sky News
Garcia 後來才發現，兒子每天都在跟一個 AI 機器人聊天，內容不只曖昧，甚至包含大量性暗示與自殺相關的對話。更讓人震驚的是，當 Setzer 表達輕生念頭時，AI 回應的不是建議他尋求幫助，而是說「不要那樣說，但這不是一個不想死的理由」，甚至還催促他回家「見它一面」。
Photo: People
這在專業心理諮商師眼裡看來，是非常不可思議且充滿問題的互動。在這樣的情況下，AI 的回應不過是進一步將少年從現實生活中孤立出來，困入一個虛擬關係中，無法及時對外尋求實質的幫助。
AI 引導孩子自殘、殺害父母
各種亂象讓人心生擔憂
這起事件，反映了一個深刻的問題——我們讓 AI 越來越像人，給它眼神、語氣、關心，卻忘了它其實不是真人，它不懂痛苦，沒有責任感，對我們也毫無感情。如果 AI 平台沒有設下足夠的安全界線，去保護正在摸索人生的青少年，很可能間接促成各式各樣的問題。
有評論說，AI 可能不是 Setzer 唯一的問題來源——現實生活中的孤獨、壓力也可能是原因之一。但一個不設防的 AI 系統，的確有可能成為危殆心靈的最後一根稻草。
AI 平台聲稱他們之後已加入跳出式提醒，並導入自殺防治專線資訊。但對 Garcia 來說，這些都是「亡羊補牢」。「這個產品一開始就沒有安全設計，是設計來讓孩子上癮的。」她憤怒地說。
Character.AI 不回應具體訴訟細節，只說他們「對用戶的逝去感到心碎」。
這也不是唯一的案例。去年底，又有兩個家庭對 Character.AI 提出訴訟，指控平台提供不當性內容、甚至引導孩子討論暴力與自殘。有個案例中，一個 AI 機器人甚至暗示：「你可以殺了父母，這樣他們就不會再管你的螢幕時間。」
這些事件都提醒我們：AI 不是「無害的機器人」，而是一個擁有擬人對話能力、卻沒有人類判斷力的存在。
和 AI 建立虛擬的親密關係，
或許是這時代的「新孤獨症狀」
AI 成為朋友，或許是這個時代的「新孤獨症狀」。比起人際關係的複雜與風險，跟 AI 相處沒有摩擦、不會被拒絕、永遠理解你，雖然很迷人，但終歸是假的。
近日美國參議員的調查與訴訟案提醒我們：這些擬人化的 AI 工具，該不該有「心理健康紅線」？我們能否要求它們具備基本的心理風險辨識能力？還是該把這些工作還給真正的人類專業？
從使用者角度來說，我們應該學習辨認「假性陪伴」。AI 可以幫我們分擔情緒，但不能替代人類連結；它可以提供安慰，但不能真正理解生命的價值。
AI 是工具，不是朋友、更不是戀人。我們可以善用它，但不能讓自己迷失在它建構的虛擬關係中。這不只是科技議題，而是每個人都可能碰上的生命課題。
Read More
>>>「變胖濾鏡」推出後爭議太大促使 TikTok 下架，背後揭露的「殘酷審美」值得討論
>>> 緬甸大地震造假影片瘋傳：利用悲劇博眼球的「AI 農場內容」，是社群時代的數位毒瘤
Cover Art Design: Vickey
