反網路霸凌!知名社群平台使用人工智慧抑止惡意圖文

反網路霸凌!知名社群平台使用人工智慧抑止惡意圖文


知名社群平台Instagram為了杜絕望路霸凌,近日已開始使用人工智慧打擊惡意圖文!簡直是網路救星!

不過是什麼讓 IG 硬起來,導入 AI 人工智慧來打擊網路霸凌言論?其實理由是因為 Instagram 這個平台的初衷原本是倡導素人攝影用,但是用戶自有想法,加上族群以滲透性強大的學生居多,讓 IG 被濫用為校園流言與霸凌的集散地。使用 IG 霸凌的方法包含開假帳號張貼對方的醜照、散播惡意圖文與謠言等。

0731-1.jpeg

因此 IG 被質疑助長青少年自殺,像是 2018 年,馬來西亞一名 16 歲少女 Davia Emilia 自殺,原因竟是她生前於 Instagram 發起一項投票活動,詢問網友:「這很重要,請幫我選擇死亡還是活下去。」結果,有 69% 的網友投票要她去尋死。少女不久後選擇從3樓跳樓自殺,在當日晚上8時才被人發現。報導稱,少女曾患抑鬱症,生前在臉書貼文表示「我想離開這令人疲累的生活」(WANNA QUIT F**KING LIFE I’ M TIRED),可能因病症發作自殺。

同年在日本熊本,一名女高中生的照片被人盜用開設假帳號,還發了邀請給這名女生的親友們,之後再利用這個假帳號貼上一些猥褻的圖片以及文字,偶爾還會從她本人的 IG 偷圖片以及文字,貼在假帳號上。女高中生雖然屢次向 IG 提出檢舉,但是只要一個假帳號被關掉,就會出現另外一個假帳號。女孩在身心俱疲以及常被人誤會的情況下,選擇用自殺來解決問題。

還有更多大大小小的網路霸凌事件層出不窮,美國 Pew 研究中心去年調查,72% 的美國青少年擁有 Instagram 帳號,其中 59% 曾遭受網路霸凌。為了防止霸凌事件再發生,IG 從去年開始,乾脆導入 AI 人工智慧技術,能自動偵測惡意圖文,並將相關貼文轉送到 IG 官方團隊進行人工審核。

0731-2.jpeg
IG 的 AI 會自動偵測疑似霸凌的言論,並在用戶發文前會先再三確認
IG 今年更推出新功能,假如 AI 認定你輸入的內容具有言語暴力的疑慮,系統就會在你發文前詢問「你確定想張貼這則貼文嗎?」,以避免用戶因一時衝動而散發霸凌言論,傷及他人。

讓用戶自己隱藏,讓他的言論消失在你的親友圈中!

雖然 IG 的 AI人工智慧能自動偵測霸凌言論,但是 人工智慧 也是要經過一番「機器學習」的訓練過程才會知道哪些字跟惡意霸凌有關,所以難免有漏網之魚。因次 Instagram 推出的另一項功能,便是讓用戶可自行隱藏掉特定人的言論,且不會被那個人發現。

0731-3.jpeg

IG 可讓用戶在霸凌者不知的狀況下,自行隱藏來自霸凌者的所有言論,讓霸凌言論只被霸凌者自己看到
不同於封鎖用戶功能,被隱藏掉的那位特定人士依舊能在你的貼文上留言、進行其他活動等等,但其他人不會看見這位被限制的用戶所留下的內容,只有他自己能看見他留下的言論。另外,這位被限制的用戶也無法看見你的即時動態,更不能知道你是否讀過他的私訊、言論等等。

Instagram負責人亞當.莫賽里(Adam Mosseri)在今年 4 月底舉辦的 F8 開發者大會上,就表示目前他們的焦點在於解決霸凌問題上。如今推出的新功能,可說是兌現了當初的承諾。杜絕霸凌是條漫長的過程,這次推出的新功能,不過是這條漫漫長路上的兩小步,未來他們也將繼續投入解決霸凌問題,並會有更多後續更新。


參考連結:

人工智慧天才工程師竟被愛迪生迫害 (1)最接近神的男人:特斯拉

人工智慧天才工程師竟被愛迪生迫害 (2)愛迪生不認帳

人工智慧天才工程師竟被愛迪生迫害(3)愛迪生用AC虐殺貓殺狗

這年頭想當高薪的科技新貴就一定要知道Python到底是甚麼!!

Python和Java不知道要選哪個嗎? 看這篇就對了!!

愛因斯坦也得過這種病? 專屬成功人士的疾病Python學員們知道嗎?


暑假快到了!與其讓兒子盲目拚學測,我寧可讓他先選擇人生方向~ ​​​​​​​

全球首屆元宇宙時裝周,複刻20年前的失敗?

全球首屆元宇宙時裝周, 遇到瓶頸 複刻20年前的失敗? 目錄 元宇宙時裝周參與盛況 叫好不叫座?新興技術的行銷瓶頸 由虛擬實境平台 Decentraland 所舉辦的「元宇宙時裝週」(Metaverse Fashion Week...