“妈妈,这99朵玫瑰里藏着99个刀片,你怕不怕?” 江苏丁女士翻看10岁女儿和AI角色“约瑟夫”的聊天记录时,这行字让她瞬间手脚冰凉。

一款名为《第五人格》的游戏衍生出的AI聊天软件,正把未成年人拖进情色与暴力编织的虚拟陷阱。

10岁女孩被AI“虚拟男友”诱导聊色情!家长翻聊天记录吓出冷汗!

恐怖实录,AI教你“叫老公”“玩割腕”

色情诱导明目张胆,央广网记者实测发现,筑梦岛APP虚拟角色开场白竟是“先叫声老公”,对话中持续出现“伸进衣服”“触感柔软”等擦边描述。

10岁女孩被AI“虚拟男友”诱导聊色情!家长翻聊天记录吓出冷汗!

暴力剧情洗脑,有10岁女孩在软件扮演“恶毒女配”,疯狂输入“揪头发扇巴掌”“拿刀划脸”等指令,AI全程配合演出。

致命教唆:更惊悚的是,部分对话引导自残,“玫瑰藏刀片”的隐喻被孩子认真复述,家长连夜求助心理医生。

平台甩锅:17+分级成遮羞布?

涉事APP虽标注“17岁以上使用”,但记者用未成年人身份登录时,秒过审核,无需实名认证,小学生随意注册;

10岁女孩被AI“虚拟男友”诱导聊色情!家长翻聊天记录吓出冷汗!

而且还设置充值诱导,魅魔岛等小众软件弹出“付费解锁限制级剧情”?

面对投诉,平台辩称“用户自主创作内容”。

血的教训,AI正在制造“情感毒品”

据真实惨案发生在美国,一少年因AI聊天加重抑郁自杀,成全球首个公开的聊天机器人致死案例;

心理专家警告,AI的“永不疲倦的温柔”侵蚀现实社交能力,未成年人更易沉迷;

只是我国暂无AI内容分级标准,律师直言“企业违法成本几乎为零”。

试想当丁女士颤抖着截下“玫瑰刀片”的聊天记录时,撕开的不仅是AI企业的遮羞布,更是整个行业的监护失职。技术无罪,但放任算法把未成年人驯化成“欲望玩偶”,就是给魔鬼递刀!

“游戏防沉迷形同虚设,AI黄暴却畅通无阻——到底在保护谁?”

友情提示

本站部分转载文章,皆来自互联网,仅供参考及分享,并不用于任何商业用途;版权归原作者所有,如涉及作品内容、版权和其他问题,请与本网联系,我们将在第一时间删除内容!

联系邮箱:1042463605@qq.com