現在的社群媒體已經成為每個人生活中的一部份,「網路霸凌」的現象是每個使用者都應該學習的課題,不能因為頻繁發生就認為這個狀況是「正確」的。
近期社群平台 Instagram 開發了一種「反網路霸凌」的 AI 功能,當你想在這個 App 上留下帶有惡意、攻擊性的言論,Instagram 會請你「再三思」。
Instagram 開發「反網路霸凌」功能
幾乎所有社群平台的使用者,都會或多或少的經歷過「網路霸凌」,不論是一則留言、一個倒讚,甚至直接使用私訊與你惡言相向等等,這樣的霸凌狀況每分每秒都在發生,而對這種現象視而不見的我們,可能也是潛在的「共犯」。
知名社群平台 Instagram 的使用者遍佈全球,對於網路霸凌的氾濫,他們再也無法視若無睹,因此團隊便開發了「反霸凌」的 AI 功能,作為網路霸凌的預防措施。
現在,若你想在 Instagram 上傳一則貼文或留下留言,在正式上傳成功前,系統的 AI 會自動偵測你上傳的內容是否含有「惡意、冒犯」的成分。
如果被偵測為惡意言論,系統就會跳出視窗,提醒你將公開的內容與「網路霸凌」類似,並跳出「請保持 Instagram 平台的正向風氣」的提醒視窗,讓使用者重新思考這些留言或貼文是否得體,並且在造成傷害前,有刪掉、重新再來的機會。
早在今年 7 月,Instagram 團隊就開始著手進行這項反網路霸凌的計劃,當時就已經有提醒視窗的雛形功能,當有人想上傳帶有攻擊意味的留言時,AI 系統便會跳出「你確定要上傳嗎?」的提醒。
目的是希望人們在留言之前,能夠再多想一下,或許經過這個三思的小動作過後,會大大改善所有使用者的體驗,落實「讓 Instagram 成為一個充滿支持鼓勵平台」的理念。
Instagram 也積極開發「限制」功能
除了會嚴格審視上傳的內容之外,instagram 表示,AI 科技會記住違反社群規章的髒話、惡意詞句,曾經被檢舉過的冒犯言論將一律被封鎖。
此外,團隊表示,曾收到不少年輕人反應不太敢使用封鎖、退追蹤,以及檢舉霸凌者的功能,基於有些霸凌者跟他們在現實生活中有接觸,因此擔心事情會更加惡化。
官方也為此積極開發一個新的功能:「限制」(Restrict),你可以選擇將霸凌者的留言,設定成只有他自己或是特定的人才能看到,而被限制的人看不到你 instagram 上的動態,且無法得知你是否讀取他們的訊息,盡可能的保護被霸凌者不再受到欺凌。
Instagram 負責人 Adam Mosseri 表示:「在 Instagram 上創造安全的環境是我們的責任,這對我們來說是最重要優先的事情,我們將持續花更多心力理解現狀,並且嘗試解決這些問題,我很期待未來能跟各位分享更多更新資訊。」
官方期許這些新功能能夠起到教育的作用,藉由警告使用者要注意言論,加深所有人對於平台規範以及互相尊重的概念。
這些功能將在下週起,將先開放於包括美國等幾個特定國家試用,預計明年就會開放全球使用。
Photo via:instagram
Cover Art Design : Chara