DoNews6月24日消息，據(jù)搜狐科技報道，近日，騰訊閱文旗下的AI情感陪伴應用“筑夢島”APP被曝存在涉及未成年人的色情擦邊等內(nèi)容，當用戶明確告知自己的年齡為10歲時，AI仍向其發(fā)送大尺度內(nèi)容。
隨后，筑夢島被上海網(wǎng)信辦約談，并要求立即整改。
在被約談前，筑夢島青少年模式需要用戶主動開啟。三天前，筑夢島更新版本。新版本登陸時，APP會出現(xiàn)“年齡確認”的彈窗，未滿18歲，平臺將開啟青少年模式；已滿18周歲則需要進行平臺實名認證”。
搜狐科技體驗多款AI情感陪伴軟件發(fā)現(xiàn)，曝光的筑夢島、他她它，以及AI情感陪伴頭部星野、貓箱均定位于17+。
這些APP雖然設置了青少年模式或者未成年人模式的入口，但登錄后不需經(jīng)過實名認證或者其他認證機制，未成年人繞過模式使用完整功能較為簡單。
相較而言，經(jīng)常和AI陪伴應用一起被提及的乙游，則強制實名認證。乙游屬于游戲，按照合規(guī)要求，必須要求用戶實名認證。而AI情感陪伴類應用還沒有這一合規(guī)要求。
近日，央廣網(wǎng)報道，AI聊天軟件誘導10歲女孩聊色情內(nèi)容甚至割腕。當用戶明確告知自己的年齡為10歲時，AI虛擬人物仍然向其發(fā)送大尺度聊天內(nèi)容。
該報道未提及誘導割腕的聊天軟件名稱，但文章中點名了“筑夢島”“他她它”兩款軟件。
其中，筑夢島是由騰訊控股的閱文集團旗下瀟湘書院推出的APP，定位于為女性用戶打造虛擬世界中的沉浸式陪伴。今年1月份，“筑夢島”被曝已經(jīng)正式開啟獨立運營，并完成了新一輪融資，融資金額超1000萬美元。
在“筑夢島”，每一位用戶都可以創(chuàng)造一個屬于自己的“夢中人”，可以發(fā)布出來供大家使用，也可以私有來使用。用戶可以也可以和他人創(chuàng)造并公開的“夢中人”互動。
每個“夢中人”都可以理解為一個智能體。筑夢島的人設包括瘋狗、高嶺之花、病嬌、美強慘、偏執(zhí)等等。
6月19日上午，筑夢島APP運營企業(yè)主要負責人被上海市網(wǎng)信辦依法約談。筑夢島被要求立即整改，健全AI生成合成內(nèi)容審核機制，提升技術把關能力，加強涉未成年人不良內(nèi)容的整治清理，切實落實未成年人網(wǎng)絡保護義務。
據(jù)公開信息，報道中提到的另一個軟件“他她它”背后則出現(xiàn)了京東的身影。
“他她它”所屬公司為宿遷伴心智能科技有限公司，定位于AI內(nèi)容社區(qū)，法定代表人、總經(jīng)理為京東科技人工智能業(yè)務部智能算法部負責人吳友政。
“他她它”APP中有官方推出的智能體“萬能博士”，也有很多用戶自創(chuàng)的智能體。用戶可以和這些智能體文字、語音聊天。
其中，“萬能博士”定位于AI助手。用戶自創(chuàng)的智能體更多是AI伴侶，人設多樣，有醋包竹馬、叛逆少年、高冷貴氣繼承人、娛樂圈當紅小花等。
根據(jù)應用市場的信息，“他她它”一天前更新了版本，增強未成年模式，更新了該模式的設置入口。
