虎撲分享：NLP算法有效提升風(fēng)險(xiǎn)內(nèi)容識(shí)別效果｜虎博科技思享會(huì)

近日，以《新技術(shù)，助力“清朗”、“凈網(wǎng)”行動(dòng)》為主題的虎博思享會(huì)，于虎博科技總部舉辦?；顒?dòng)匯聚了來自上海市信息安全測(cè)評(píng)認(rèn)證中心、虎撲社區(qū)、寬帶山社區(qū)、樊登讀書的內(nèi)容安全專家、負(fù)責(zé)人，共同圍繞技術(shù)與內(nèi)容生態(tài)的平衡進(jìn)行探索。

眾所周知，內(nèi)容安全已被置于前所未有的重要位置，近期關(guān)于“飯圈”、未成年保護(hù)、金融黑嘴、網(wǎng)絡(luò)黑公關(guān)等內(nèi)容被特別關(guān)注并整治，網(wǎng)絡(luò)內(nèi)容生態(tài)治理已然成為現(xiàn)階段各大平臺(tái)的主要核心工作。

在本次虎博內(nèi)容安全主題思享會(huì)中，來自虎撲社區(qū)的技術(shù)總監(jiān)鄭中業(yè)，結(jié)合在虎撲多年從事內(nèi)容生態(tài)工作的經(jīng)驗(yàn)，就虎撲在內(nèi)容生態(tài)治理上的發(fā)展歷程、技術(shù)投入、審核流程，以及與虎博合作后取得的效果等方面做了精彩的干貨分享。

虎博思享會(huì)嘉賓精彩干貨分享

04:19

演講分享·keymessage

1、足球點(diǎn)陣式體系

虎撲的內(nèi)容生態(tài)體系好比一個(gè)足球隊(duì)，巡查、人審、機(jī)審構(gòu)成后衛(wèi)、中場與前鋒，而模型作為技術(shù)基礎(chǔ)承載了重要作用

2、“好人卡”提效降本

對(duì)用戶進(jìn)行精準(zhǔn)畫像，“區(qū)別對(duì)待”高危和“好人卡”用戶，優(yōu)化審核效率同時(shí)，降低成本

3、審核“黑盒子”

巡查環(huán)節(jié)將審核流程當(dāng)做“黑盒子”，去評(píng)估審核質(zhì)量、流程漏洞和安全漏放等問題，從而完善審核機(jī)制

4、“投毒”測(cè)試

對(duì)問題內(nèi)容進(jìn)行“投毒”模擬測(cè)試，提升審核的感知度和敏感度

5、小提升，大進(jìn)步

與虎博合作至今，準(zhǔn)確率與召回率每一個(gè)百分點(diǎn)的提升，都是內(nèi)容生態(tài)治理的一大步

6、AI識(shí)別內(nèi)容風(fēng)險(xiǎn)

通過模型訓(xùn)練、特征汲取，從語義理解、上下文感知上識(shí)別更多風(fēng)險(xiǎn)內(nèi)容