央廣網(wǎng)北京10月28日消息（記者馮儀 實(shí)習(xí)記者王祺姝）“平時(shí)，我會(huì)上網(wǎng)看動(dòng)畫(huà)片、玩游戲，還會(huì)上網(wǎng)查作業(yè)、用智能手表給爸爸媽媽打電話。但是，我也聽(tīng)說(shuō)有同學(xué)在網(wǎng)上遇到麻煩，比如有人讓女生發(fā)照片換游戲皮膚，大家都不知道該怎么辦。爸媽總說(shuō)少上網(wǎng)，可是我們離不開(kāi)網(wǎng)絡(luò)。”北京師范大學(xué)實(shí)驗(yàn)小學(xué)四年級(jí)的一位同學(xué)說(shuō)出了她的困惑。
社交、娛樂(lè)、學(xué)習(xí)……當(dāng)下，廣大未成年人的生活已經(jīng)離不開(kāi)互聯(lián)網(wǎng)。共青團(tuán)中央去年發(fā)布的《第6次中國(guó)未成年人互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告》顯示，截至2023年，我國(guó)未成年網(wǎng)民規(guī)模上升至1.96億人，未成年人互聯(lián)網(wǎng)普及率達(dá)97.3%，互聯(lián)網(wǎng)已經(jīng)全面融入當(dāng)代未成年人的日常生活和學(xué)習(xí)當(dāng)中。
在享受技術(shù)發(fā)展所帶來(lái)的便捷與機(jī)遇的同時(shí)，未成年人也面臨著網(wǎng)絡(luò)帶來(lái)的風(fēng)險(xiǎn)和侵害。
拉聊天群辱罵、在校園“表白墻”上散播謠言……這是未成年網(wǎng)絡(luò)欺凌的常見(jiàn)表現(xiàn)。“當(dāng)前，未成年人面臨的網(wǎng)絡(luò)風(fēng)險(xiǎn)越來(lái)越頻繁、多元化?！北本┣嗌倌攴稍c研究中心網(wǎng)絡(luò)保護(hù)部門(mén)負(fù)責(zé)人陳強(qiáng)發(fā)現(xiàn)，游戲充值、直播打賞，隔空猥褻、網(wǎng)絡(luò)欺凌、卷入信息犯罪活動(dòng)等是未成年人面臨的顯著問(wèn)題。
“例如，近年來(lái)未成年人進(jìn)行網(wǎng)絡(luò)游戲消費(fèi)的情況非常普遍，很多案例中涉及的充值金額少則幾千，多則數(shù)十萬(wàn)。這對(duì)于部分缺乏網(wǎng)絡(luò)素養(yǎng)的家庭來(lái)說(shuō)，是具有巨大經(jīng)濟(jì)風(fēng)險(xiǎn)又很棘手的問(wèn)題。但當(dāng)監(jiān)護(hù)人嘗試通過(guò)司法途徑解決問(wèn)題時(shí)，又面臨著舉證困難的現(xiàn)狀。”陳強(qiáng)表示，這類情況在節(jié)假日等關(guān)鍵節(jié)點(diǎn)更加頻發(fā)。
2025年，北京法院未成年人網(wǎng)絡(luò)司法保護(hù)典型案例顯示，未成年人小張使用其母親的手機(jī)在某游戲公司開(kāi)發(fā)的游戲平臺(tái)中下載游戲并充值10萬(wàn)余元。而該游戲公司在識(shí)別玩家為未成年人后，未鎖定身份信息，也未提示驗(yàn)證家長(zhǎng)進(jìn)行監(jiān)管，沒(méi)有落實(shí)未成年人實(shí)名認(rèn)證機(jī)制。
據(jù)北京師范大學(xué)新聞傳播學(xué)院未成年人網(wǎng)絡(luò)素養(yǎng)研究中心2025年發(fā)布的《2024中國(guó)青少年網(wǎng)絡(luò)使用調(diào)研報(bào)告》顯示，青少年網(wǎng)絡(luò)消費(fèi)行為也呈現(xiàn)低齡化、常態(tài)化趨勢(shì)。超過(guò)三分之一的青少年曾在網(wǎng)絡(luò)平臺(tái)上產(chǎn)生付費(fèi)行為，其中近15%的青少年每周消費(fèi)金額超過(guò)100元。游戲、短視頻與網(wǎng)購(gòu)成為主要的網(wǎng)絡(luò)消費(fèi)場(chǎng)景。
我國(guó)第一部專門(mén)性的未成年人網(wǎng)絡(luò)保護(hù)綜合立法《未成年人網(wǎng)絡(luò)保護(hù)條例》規(guī)定：“網(wǎng)絡(luò)游戲、網(wǎng)絡(luò)直播、網(wǎng)絡(luò)音視頻、網(wǎng)絡(luò)社交等網(wǎng)絡(luò)服務(wù)提供者應(yīng)當(dāng)采取措施，合理限制不同年齡階段未成年人在使用其服務(wù)中的單次消費(fèi)數(shù)額和單日累計(jì)消費(fèi)數(shù)額，不得向未成年人提供與其民事行為能力不符的付費(fèi)服務(wù)。”
同時(shí)，各地也在積極探索規(guī)范未成年人網(wǎng)絡(luò)消費(fèi)行為的解決方案。2024年，上海市普陀區(qū)檢察院、區(qū)委網(wǎng)信辦等部門(mén)共同編制《網(wǎng)絡(luò)企業(yè)未成年人保護(hù)指導(dǎo)清單》，明確規(guī)定了分年齡段的消費(fèi)限制：禁止向 8歲以下未成年人提供充值服務(wù)，并對(duì) 8—16 歲、16—18歲群體設(shè)置了差異化的充值上限，建立梯度化的保護(hù)機(jī)制。
浙江省杭州市政府積極探索基于年齡和認(rèn)知水平的分級(jí)治理技術(shù)。當(dāng)系統(tǒng)監(jiān)測(cè)到未成年人在非常規(guī)時(shí)間（如凌晨?jī)牲c(diǎn)）登錄游戲平臺(tái)時(shí)，系統(tǒng)將自動(dòng)啟動(dòng)人臉識(shí)別驗(yàn)證，并向班主任發(fā)送預(yù)警信息。
往年，陳強(qiáng)所在的機(jī)構(gòu)通過(guò)接收公益熱線電話來(lái)解答未成年人和家長(zhǎng)的疑問(wèn)。近年來(lái)，法律援助也借助互聯(lián)網(wǎng)的力量，漸漸轉(zhuǎn)移到線上?！拔覀兺ㄟ^(guò)小程序?yàn)榍嗌倌陚兲峁┟赓M(fèi)咨詢，也在視頻平臺(tái)上傳法律知識(shí)短視頻，定期為他們解答法律問(wèn)題，這是一項(xiàng)很重要的社會(huì)公眾服務(wù)?！?/p>
目前，人工智能技術(shù)與經(jīng)濟(jì)社會(huì)各領(lǐng)域正在廣泛融合，在改善社會(huì)生活的同時(shí)也給不少不法行為提供了可乘之機(jī)。
2024年，北京市委網(wǎng)信辦、團(tuán)市委指導(dǎo)發(fā)布的《青少年互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告（2024）》顯示，受訪青少年對(duì)人工智能的認(rèn)知度非常高，對(duì)于人工智能的使用還處于持續(xù)探索中，嘗試多種場(chǎng)景和用途。
“如今，隨著AI技術(shù)的不斷發(fā)展，很多傳統(tǒng)的網(wǎng)絡(luò)風(fēng)險(xiǎn)增加了識(shí)別的難度?！标悘?qiáng)提到。
2024年，曾有媒體報(bào)道，AI生圖大模型技術(shù)成熟后，“一鍵脫衣”被“開(kāi)發(fā)”并逐漸泛濫。彼時(shí)，社交平臺(tái)出現(xiàn)了一批“AI脫衣教程”視頻。一些不法分子利用AI技術(shù)，將未成年人的照片制作成“裸照”，打包售賣(mài)；還有人利用“AI換臉”軟件，把未成年學(xué)生面部信息替換到淫穢視頻中進(jìn)行有償銷售。
AI聊天軟件同樣亂象叢生。不少AI聊天軟件準(zhǔn)入門(mén)檻模糊，聊天內(nèi)容充斥著色情擦邊、語(yǔ)言暴力等元素，甚至誘導(dǎo)未成年人進(jìn)行不恰當(dāng)?shù)膶?duì)話。曾有家長(zhǎng)投訴稱，自己的女兒因過(guò)度沉迷AI聊天軟件，出現(xiàn)情緒激動(dòng)甚至割腕等行為。2025年6月，上海網(wǎng)信辦通報(bào)筑夢(mèng)島APP等AI聊天軟件存在虛擬角色互動(dòng)生成低俗內(nèi)容等問(wèn)題，危害未成年人身心健康。
2025年4月，中央網(wǎng)信辦啟動(dòng)“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，將未成年人保護(hù)列為重點(diǎn)方向，嚴(yán)控算法生成暴力、色情等敏感內(nèi)容對(duì)青少年的影響。
“未成年人在和AI智能體互動(dòng)、進(jìn)行情感交流的時(shí)候，我們無(wú)法得知他們?cè)诹氖裁?，也不知道這些軟件在制造什么內(nèi)容。”中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春表達(dá)了憂慮。“有一種聲音認(rèn)為，我們可以‘一禁了之’，禁止14歲以下的用戶使用社交媒體。但是把孩子排除在人工智能時(shí)代以外，滿了14歲又突然允許他們進(jìn)入，這不是最有利的方式。開(kāi)發(fā)和完善青少年模式、對(duì)內(nèi)容進(jìn)行治理、對(duì)未成年人進(jìn)行特殊保護(hù)等是更務(wù)實(shí)的做法。”
《未成年人網(wǎng)絡(luò)保護(hù)情況報(bào)告（2025）》（以下簡(jiǎn)稱《報(bào)告》）顯示，目前，我國(guó)在法律體系、監(jiān)管執(zhí)法、司法保護(hù)、平臺(tái)實(shí)踐、素養(yǎng)教育和社會(huì)共識(shí)六個(gè)維度取得了未成年人網(wǎng)絡(luò)保護(hù)工作的實(shí)踐進(jìn)展。
2025年7月15日，中央網(wǎng)信辦啟動(dòng)為期2個(gè)月的“清朗·2025年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)，聚焦各類新情況新表現(xiàn)，整治實(shí)施網(wǎng)絡(luò)侵害行為、隱蔽傳播違法不良信息、誘導(dǎo)參與線下危險(xiǎn)活動(dòng)、利用未成年人形象牟利等四方面問(wèn)題。
《報(bào)告》指出，人工智能正成為平臺(tái)提升未成年人保護(hù)效能的重要手段。有平臺(tái)推出的“人工智能未成年保護(hù)系統(tǒng)”具備人工智能識(shí)別未成年保護(hù)系統(tǒng)、干預(yù)未成年玩家不理性消費(fèi)模型、監(jiān)控與打擊體系三大技術(shù)體系，用于判斷玩家特征是否屬于疑似未成年玩家，從而對(duì)其進(jìn)行及時(shí)攔截核實(shí)和有效管控。
“學(xué)校要為學(xué)生搭建未成年人互聯(lián)網(wǎng)保護(hù)的課程化平臺(tái)，避免學(xué)生被有害信息侵蝕?！鼻迦A大學(xué)附屬小學(xué)校長(zhǎng)竇桂梅提到，教育的使命是求真務(wù)實(shí)，而AI技術(shù)讓學(xué)生較難分辨互聯(lián)網(wǎng)和真實(shí)世界的區(qū)別，因此，加強(qiáng)學(xué)生的數(shù)字素養(yǎng)顯得尤為重要?！拔覀冞€與清華大學(xué)共同編寫(xiě)了《小學(xué)生人工智能通識(shí)讀本》，完善AI+智慧課程包，讓教師們也成為駕馭工具理性的掌舵者和守護(hù)價(jià)值理性的擺渡人?！?/p>
“現(xiàn)在，未成年人不僅僅是互聯(lián)網(wǎng)的原住民，他們的數(shù)字能力也可能與成年人出現(xiàn)倒掛的現(xiàn)象。未成年人網(wǎng)絡(luò)行為特點(diǎn)經(jīng)常讓我們感到驚訝，所以在保護(hù)他們的同時(shí)，也要多給他們發(fā)聲的機(jī)會(huì)，讓我們更了解他們?cè)谙胧裁础！眲源貉a(bǔ)充道，“此外，還要進(jìn)一步優(yōu)化社會(huì)制度和機(jī)制，打通各部門(mén)和平臺(tái)的信息通路，協(xié)調(diào)發(fā)力?！?/p>
社交、娛樂(lè)、學(xué)習(xí)……未成年人的生活已經(jīng)離不開(kāi)互聯(lián)網(wǎng)。共青團(tuán)中央發(fā)布的《第6次中國(guó)未成年人互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告》顯示，我國(guó)未成年網(wǎng)民規(guī)模上升至1.96億人，未成年人互聯(lián)網(wǎng)普及率達(dá)97.3%，互聯(lián)網(wǎng)已經(jīng)全面融入當(dāng)代未成年人的日常生活和學(xué)習(xí)當(dāng)中。在享受技術(shù)發(fā)展所帶來(lái)的便捷與機(jī)遇的同時(shí)，未成年人也面臨著網(wǎng)絡(luò)帶來(lái)的風(fēng)險(xiǎn)和侵害。雷火競(jìng)技