“小學生妹妹沉迷和AI角色進行劇情聊天怎么辦？”記者聯(lián)系到黃秋月時，她正因10歲妹妹和“AI男?！敝g較為露骨的聊天記錄苦惱?！昂退綍r在家里比較單純的形象完全不一樣。”黃秋月向記者出示了妹妹的一些聊天截圖，她在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”，提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求。

未成年人與AI談戀愛等類似現(xiàn)象，反映出當前AI產(chǎn)業(yè)領域發(fā)展迅速，但監(jiān)管滯后的問題。AI聊天軟件的定制化服務，能夠高度匹配用戶的興趣和需求，從而令人產(chǎn)生一種強烈的吸引力和依賴性，特別容易讓涉世未深的未成年人深陷其中，嚴重影響孩子學習、生活和社交等。更令人擔憂的是，因未受有效約束，其中常常出現(xiàn)色情、暴力以及價值觀扭曲的聊天內(nèi)容，嚴重損害未成年人的身心健康，對此必須引起高度重視。

雖然AI聊天軟件給人帶來了個性化的體驗，但也存在一定的負面風險，需要及時介入采取措施干預和約束，讓AI聊天軟件如同未成年人一樣在正確的軌道上健康成長。2023年，我國出臺《生成式人工智能服務管理暫行辦法》，專門針對AI可能產(chǎn)生的一系列違法違規(guī)問題作出立法回應。加快落實這一系列要求，需要多方共同努力。

相關部門要加快制定和完善法律法規(guī)，加強對AI聊天軟件的監(jiān)管，進一步規(guī)定其在未成年人保護方面的責任和義務，同時建立健全內(nèi)容審核機制，確保AI聊天軟件不含有色情、暴力、低俗等違規(guī)內(nèi)容。AI聊天軟件的開發(fā)運營商要結合形勢、按照要求加強技術創(chuàng)新，提高內(nèi)容審核的準確性和安全性，設置“青少年模式”，限制未成年人訪問“成人區(qū)域”，提供更加健康、有益的未成年人服務。

現(xiàn)實中，未成年人因為受到AI聊天軟件不良信息的影響，也存在想方設法突破“青少年模式”的情況。對此，作為第一責任人的家長要加強對孩子使用AI應用的監(jiān)督，引導孩子合理安排時間，平衡虛擬與現(xiàn)實生活。學校和社會也應加強對未成年人的教育引導，提高他們的自我保護意識，別讓AI鉆了空子。