央廣網(wǎng)北京9月28日消息(記者賈斯曼)今天,在共青團中央網(wǎng)絡影視中心、中國下一代教育基金會的聯(lián)合指導下,青少年在線學習平臺作業(yè)幫發(fā)布青少年信息安全防護平臺,在國內尚屬首個。
“網(wǎng)絡的公開性導致了網(wǎng)絡垃圾信息的泛濫!眻F中央網(wǎng)絡影視中心黨委委員,未來網(wǎng)總編輯萬興亞表示:“網(wǎng)絡詐騙、不良信息和網(wǎng)絡欺凌使孩子們遭遇了三大負面因素。”解決這些問題需要多方力量的共同努力,同時也許要引入人工智能等新技術。
該平臺名為“寸功”,它將利用大數(shù)據(jù)技術,通過“AI賦能信息審核”、“全量數(shù)據(jù)監(jiān)測和預警”、“數(shù)據(jù)分析適當干預”、“綜合防護”這四項功能,防護青少年信息安全,同時在不良信息的源頭建立起網(wǎng)絡“防火墻”,構建完整的網(wǎng)絡信息安全體系。
會上,作業(yè)幫還與全國婦聯(lián)中國家庭教育學會簽署了戰(zhàn)略合作書,將在青少年德育教育、家庭教育等方向展開深入合作。
寸功平臺功能詳細解讀如下:
AI賦能信息審核:將人工智能技術引入到審核全流程,利用其技術上最擅長的圖像識別、OCR文本識別等技術,訓練完成了用于青少年信息審核的特有模型,有效識別海量信息中的色情圖片、優(yōu)質圖片、試題圖片,以及圖片中的文字、URL地址、推廣信息等。
全量數(shù)據(jù)監(jiān)測和預警:針對特定信息進行打標簽預警,對用戶發(fā)布不良信息的行為進行定位分析,形成惡意上傳不良信息的黑名單機制。從平臺角度,進一步監(jiān)測不良信息來源,分析用戶特征,并根據(jù)不同情況發(fā)出及時準確預警。
數(shù)據(jù)分析適當干預:大數(shù)據(jù)技術的基礎上,進行可視化、類型化、個性化分析,對不良信息數(shù)據(jù)進行進一步的跟蹤,將更多人文關懷、更多正向引導知識輸出給孩子們,對不良信息的發(fā)布者進行干預。
綜合防護功能:從三個重要方向進行全面防控,一是正向引導,在政府的指導和社會機構的幫助下,向青少年用戶推送正能量資訊,在青少年德育、家庭教育等方向深入合作;二是扶貧公益,聯(lián)合更多公益機構和組織,提供便捷的救助通道,定向精準幫扶;三是一鍵求助,未來在政府和社會各界更廣泛的指導和支持下,將逐步上線一鍵求助功能。