原標題：新興技術如何助推網絡暴力信息治理與風險防控

來源：法治日報

原標題：新興技術如何助推網絡暴力信息治理與風險防控

來源：法治日報

□ 黃蘭松 朱立志

長期以來，網絡暴力的信息治理常常被視為受害者與施暴者之間的對抗，互聯網平臺更多處于旁觀角色，依靠“避風港”規則避免承擔責任。的確，初期互聯網平臺缺乏有效信息管控能力，未能充分履行治理義務。然而，隨著互聯網平臺產業的發展和人工智能等新興技術的快速進步，越來越多的學者呼吁，平臺應主動承擔起網絡暴力信息治理的主體責任。早期，由于信息量龐大且多樣，平臺難以對每條信息進行逐一審核，導致網絡暴力信息的應對滯后、難以預防。近年來，隨著人工智能特別是自然語言處理技術的突破，智能化識別與治理網絡暴力的潛力得到了前所未有的發展。

人工智能如何精準打擊網絡暴力

網絡暴力信息通常以自然語言文本的形式傳播，語言處理技術以及語言大模型技術迅速發展，使得平臺對網絡暴力信息進行自動化精準識別成為可能。該技術也是人工智能在治理網絡暴力信息方面運用最為廣泛的技術，已經為大部分主流平臺運用。在這些平臺上，用戶所發送的每一條帖子、評論以及私信等，都會被人工智能模型自動識別。如果信息涉及網絡暴力，平臺會自動向用戶發出提示，建議用戶修改表述或不要發送。對于部分難以識別的信息，平臺采用“人工智能預判+真人核實”的模式，兼顧效率與準確性。然而，模型的識別能力受限于以往的案例和數據，且部分模型過于依賴“敏感詞識別技術”，不僅難以招架層出不窮的網暴形式，還可能造成錯誤打擊，損害公民的表達權。

用大數據評估并管控潛在威脅

除了對平臺信息進行普遍性監控外，平臺還會采用危險賬號監測技術對高危賬號重點關注。在互聯網空間，用戶的行為偏好、群組關系、違規記錄、言論發表等都會被平臺獲取。平臺在這些信息的基礎上構建起用戶畫像，評估用戶的危險等級，降低高危賬號言論的曝光度，對其言論進行嚴格審核，限制該類賬號的部分功能甚至進行封號處理。其中，違規記錄是判斷賬號危險等級的一大重要因素，大部分平臺會對多次違規的賬戶進行更嚴厲的處罰。然而，該項技術卻有著較高的運用門檻。首先在數據獲取方面，為構建準確的用戶畫像，平臺必須得到足夠的用戶數據，而中小平臺往往難以在短期內獲得足夠的數據。其次在建立模型方面，如何為各類信息附加合理權重尚未形成共識，模型建立存在較大難度。

用積極聲音抵消網絡暴力負面效應

韓國曾舉行“善意回帖”運動，號召網民為他人寫下“肯定的、鼓勵的、給予勇氣和希望的善意留言”。根據群體極化理論，防止情緒極端化的有效方法是引入對立的觀點，需要有人提出新穎且具有說服力的論據，挑戰群體成員最初的偏好。該運動本質上是想用良性信息與有害信息對抗，消除“群體極化”，削弱網絡暴力信息的影響。在良性信息生成效率、數量、質量等方面，人工智能具有極大的應用潛力。此外，基于“沉默的螺旋”理論，一般網民容易受到已有情緒的影響。一旦網絡暴力形成，原本善意的聲音往往不敢表達，反而會加入網暴大軍。而人工智能不會受到情緒氛圍的影響，能夠持續提供積極的、建設性的內容來平衡網絡生態，打破“沉默的螺旋”，減少負面情緒的傳播。然而，科技是把雙刃劍，也要警惕不法分子反向運用該技術，批量生成惡意信息，發起、擴大網絡暴力。

用科技化解言語沖突避免誤解升級

美國傳播學家艾伯特梅拉比曾提出一個著名的信息傳播表達式，即信息的全部表達=7%的語言文字+38%的聲音+55%的表情。一方面絕大多數互聯網信息都是依靠語言文字傳播，而語言文字僅能傳播少量信息。另一方面網絡節奏不斷加快，網民習慣于用更加簡潔的語言，大量語氣詞、禮貌用語被省略，語言表達顯得較為生硬。聲音、表情的缺失使得人們的真實意思在傳播過程中逐漸失真。一句簡單的玩笑可能被誤認為冷嘲熱諷、抬杠，導致正常的表達在拉扯中上升為沖突甚至引發網絡暴力。語言風格轉化技術的核心在于“識別——轉化”。當人工智能發現用戶發表的內容包含不友好信息時，可以通過替換詞匯、增添禮貌用語以及加入表情符號等手段，使表達變得溫和。從技術的角度來說，語言風格轉化技術所需的情感詞典、語言處理以及語言大模型技術都已經較為成熟，具有實施的可能性。從運用的角度來說，該技術已經在Reddit和Twitter等平臺運用過，并取得良好成效，在國內具有廣闊的運用空間。

（作者單位：山東大學法學院）

想爆料？請登錄《陽光連線》（ https://minsheng.iqilu.com/）、撥打新聞熱線0531-66661234或96678，或登錄齊魯網官方微博（@齊魯網）提供新聞線索。齊魯網廣告熱線0531-81695052，誠邀合作伙伴。