現在的社群媒體已經成為每個人生活中的一部份，「網路霸凌」的現象是每個使用者都應該學習的課題，不能因為頻繁發生就認為這個狀況是「正確」的。
近期社群平台 Instagram 開發了一種「反網路霸凌」的 AI 功能，當你想在這個 App 上留下帶有惡意、攻擊性的言論，Instagram 會請你「再三思」。
Instagram 開發「反網路霸凌」功能
幾乎所有社群平台的使用者，都會或多或少的經歷過「網路霸凌」，不論是一則留言、一個倒讚，甚至直接使用私訊與你惡言相向等等，這樣的霸凌狀況每分每秒都在發生，而對這種現象視而不見的我們，可能也是潛在的「共犯」。
知名社群平台 Instagram 的使用者遍佈全球，對於網路霸凌的氾濫，他們再也無法視若無睹，因此團隊便開發了「反霸凌」的 AI 功能，作為網路霸凌的預防措施。
現在，若你想在 Instagram 上傳一則貼文或留下留言，在正式上傳成功前，系統的 AI 會自動偵測你上傳的內容是否含有「惡意、冒犯」的成分。
如果被偵測為惡意言論，系統就會跳出視窗，提醒你將公開的內容與「網路霸凌」類似，並跳出「請保持 Instagram 平台的正向風氣」的提醒視窗，讓使用者重新思考這些留言或貼文是否得體，並且在造成傷害前，有刪掉、重新再來的機會。
早在今年 7 月，Instagram 團隊就開始著手進行這項反網路霸凌的計劃，當時就已經有提醒視窗的雛形功能，當有人想上傳帶有攻擊意味的留言時，AI 系統便會跳出「你確定要上傳嗎？」的提醒。
目的是希望人們在留言之前，能夠再多想一下，或許經過這個三思的小動作過後，會大大改善所有使用者的體驗，落實「讓 Instagram 成為一個充滿支持鼓勵平台」的理念。
Instagram 也積極開發「限制」功能
除了會嚴格審視上傳的內容之外，instagram 表示，AI 科技會記住違反社群規章的髒話、惡意詞句，曾經被檢舉過的冒犯言論將一律被封鎖。
此外，團隊表示，曾收到不少年輕人反應不太敢使用封鎖、退追蹤，以及檢舉霸凌者的功能，基於有些霸凌者跟他們在現實生活中有接觸，因此擔心事情會更加惡化。
官方也為此積極開發一個新的功能：「限制」（Restrict），你可以選擇將霸凌者的留言，設定成只有他自己或是特定的人才能看到，而被限制的人看不到你 instagram 上的動態，且無法得知你是否讀取他們的訊息，盡可能的保護被霸凌者不再受到欺凌。
Instagram 負責人 Adam Mosseri 表示：「在 Instagram 上創造安全的環境是我們的責任，這對我們來說是最重要優先的事情，我們將持續花更多心力理解現狀，並且嘗試解決這些問題，我很期待未來能跟各位分享更多更新資訊。」
官方期許這些新功能能夠起到教育的作用，藉由警告使用者要注意言論，加深所有人對於平台規範以及互相尊重的概念。
這些功能將在下週起，將先開放於包括美國等幾個特定國家試用，預計明年就會開放全球使用。
Photo via：instagram
Cover Art Design : Chara
