在一段面向兒童的交通安全動畫中，兩個孩子穿過馬路，幾秒后，其中一個突然變成氣球飄向天空。另一段10秒視頻里，一只小狼從蛋里孵出，接著是小老虎、小山羊，但其實只有小雞才是真正會從蛋中出生的動物。乍看荒誕離奇，但這些視頻正在YouTube、Instagram上大量出現(xiàn)，獲得幾十萬甚至上百萬播放量。
西班牙《國家報》近日披露，隨著生成式人工智能（AI）工具普及，大量AI生成視頻正在算法推薦下如洪流般涌向兒童。它們情節(jié)跳躍、邏輯混亂、內(nèi)容失真，其制作門檻極低、傳播速度極快，且產(chǎn)量驚人。歐美教育和心理學(xué)界專家擔(dān)憂，它們可能潛移默化地影響兒童對真實世界的認(rèn)知。
失真的影像正成為孩子了解世界的新窗口
加拿大廣播公司（CBC）在4月底的報道中提到一個新概念，即“寶寶垃圾內(nèi)容”，指的是專門面向幼兒的生成式AI視頻。仔細(xì)觀察這些視頻，往往能發(fā)現(xiàn)一些典型跡象。例如，角色或物體會突然變成別的東西，或者出現(xiàn)違反自然規(guī)律的行為，有時字母數(shù)字中還夾雜亂碼。
成年人看到牛跳舞、球突然消失等視頻會一笑而過，因為他們已有穩(wěn)定的現(xiàn)實認(rèn)知。但年幼兒童不同。美國兒童數(shù)字權(quán)益保護(hù)組織Fairplay項目主管雷切爾·弗朗茨指出，學(xué)齡前兒童的大腦仍處在快速建立世界認(rèn)知規(guī)則的階段。他們通過觀察來理解球怎么滾動，動物如何出生，物體為何會掉落，人與人之間怎樣互動。而AI生成視頻經(jīng)常違背這些基本規(guī)則——球可以瞬移，飛盤懸空不落，動物出生方式隨意混搭。對孩子來說，這些不是“特效”，而是正在接收的信息。
CBC援引兒科醫(yī)生一句頗具沖擊力的話：“幼兒無法從垃圾中學(xué)習(xí)?！?/p>
“孩子的大腦會嘗試解釋這些異常，甚至開始懷疑球是不是本來就能那樣?！备ダ蚀恼f。如果他們長期觀看此類內(nèi)容，大腦可能將這些錯誤模式也納入對世界的理解中。
AI讓兒童視頻進(jìn)入批量生成時代
這些視頻之所以在短時間內(nèi)泛濫，核心原因在于生產(chǎn)門檻被AI徹底壓低。
在傳統(tǒng)模式下，一部兒童動畫往往需要編劇、分鏡、繪制、配音、后期等環(huán)節(jié)，哪怕是短視頻，也需要團(tuán)隊協(xié)作。而如今，生成式AI讓這一流程高度自動化。腳本由語言模型生成，圖像由生成模型制作，聲音由語音合成完成，音樂由AI配樂工具輸出，再通過自動發(fā)布程序上傳平臺。
《國家報》提到，制作兒童交通安全視頻的YouTube賬號創(chuàng)建于2025年4月5日，至今已上傳4000多條視頻。另一些賬號在幾天內(nèi)連續(xù)發(fā)布60多條長視頻，每條長達(dá)十幾分鐘。這樣的更新速度，遠(yuǎn)超傳統(tǒng)兒童內(nèi)容制作節(jié)奏。
去年，一項發(fā)表于互聯(lián)網(wǎng)研究協(xié)會旗下期刊的研究稱，這類面向兒童的AI視頻已形成獨特傳播鏈條。一些頻道不僅持續(xù)發(fā)布大量兒童內(nèi)容，還會同時上傳教學(xué)視頻，教授他人如何利用AI批量生成類似作品并從平臺獲利。研究者認(rèn)為，這表明相關(guān)內(nèi)容已不只是零散創(chuàng)作，而是在社交平臺上形成了一套可復(fù)制的生產(chǎn)和傳播模式。
兒童注意力成為平臺爭奪對象
AI生成視頻更容易適應(yīng)平臺的推薦機(jī)制。一些賬號不斷嘗試不同封面、角色和畫面組合，根據(jù)播放量篩選出更易被推薦的內(nèi)容。孩子停留時間越長，視頻被持續(xù)推送的概率越高。而兒童比成年人更容易形成連續(xù)觀看習(xí)慣：一段10秒視頻結(jié)束后，平臺自動播放下一段，孩子可能連續(xù)觀看數(shù)十條，家長卻未必察覺。
英國《衛(wèi)報》援引視頻平臺Kapwing的研究稱，新用戶首次打開YouTube時，推薦流中約20%內(nèi)容屬于低質(zhì)量AI視頻，其中不少明確針對兒童。研究團(tuán)隊識別出278個專門生產(chǎn)此類內(nèi)容的熱門頻道，總播放量已達(dá)到630億次，總訂閱量超過2.2億，估算年收入超過1億美元。
令人擔(dān)憂的是，這些內(nèi)容往往并未被明確標(biāo)注為AI生成。平臺雖然要求披露部分合成內(nèi)容，但在實際執(zhí)行中，大量賬號并未標(biāo)識。家長也缺乏有效過濾工具。包括YouTube在內(nèi)的不少視頻平臺，目前都沒有面向用戶的“屏蔽AI生成兒童內(nèi)容”選項。
動畫制作人尼古拉斯·馬特希指出，傳統(tǒng)兒童內(nèi)容創(chuàng)作者會思考作品傳遞什么價值、如何影響孩子，而AI時代還沒有這樣的約束，生產(chǎn)者的目標(biāo)只是擴(kuò)大流量和收益。“如果目的只是數(shù)量，那什么都可以做，最后制造出來的就是垃圾。”
教育專家擔(dān)心，兒童成長環(huán)境正在悄悄變化。過去，屏幕只是信息媒介；如今，屏幕上的內(nèi)容開始由機(jī)器批量制造，而這些機(jī)器不理解教育，也不在意認(rèn)知后果。
從某種意義上說，兒童成為生成式AI時代最早被深度影響的一代。不是因為他們主動選擇AI，而是因為AI已經(jīng)提前進(jìn)入他們接觸世界的入口。當(dāng)一個孩子第一次認(rèn)識“狗怎么玩球”“山羊從哪里來”“馬路該怎么過”時，如果答案來自一個為了點擊量而自動拼接的算法系統(tǒng)，那么影響的，或許不只是觀看習(xí)慣，也包括他們認(rèn)識現(xiàn)實世界的方式。（張佳欣）
（責(zé)任編輯：蔡文斌）
晉公網(wǎng)安備 14090202000008號 
