公路钢绞线 马斯克旗下xAI涉嫌生成情内容被调查，AI成人内容的边界在哪？

据新华社，法国巴黎检方1月2日对媒体证实，将对美国企业马斯克旗下人工智能企业xAI的聊天机器人“格罗克(Grok)”涉嫌生成非法情内容启动调查。

“格罗克”由xAI公司开发，并内置于马斯克拥有的社交媒体平台X，X用户可直接调用该聊天机器人。近日，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，部分生成的内容可以假乱真。一些用户借此生成真实人物的虚假暴露内容，并在X平台上散播。受害者包括数百名女和未成年人。

1月2日，多名法国政府部长和国民议会议员就上述现象向法国司法部门报案。当日晚些时候，巴黎检方表示，将启动相关调查。

图片来源：新华社

更为严峻的是，随着攻击技术迭代升，未知攻击还将持续增加。

近年来，我国政府度重视未成年人网络安全保护工作，采取了一系列积举措，不断完善政策法规体系。2019年，国网信办发布《儿童个人信息网络保护规定》，对儿童个人信息权益予以保护。新修订的未成年人保护法于2021年6月1日起正式实施，门创设“网络保护”章，进一步强化了对未成年人网络内容的监管，加强了个人信息保护，并针对网络沉迷问题制定了门规定。2024年1月1日，我国一部门的未成年人网络保护综合立法《未成年人网络保护条例》正式施行。该条例旨在为未成年人提供更加安全、有益的网络空间，确保他们的合法权益得到充分保障，促进其身心健康成长。

事实上，这不是xAI的聊天机器人“格罗克(Grok)”一次因生成内容引发争议。

同样在1月2日，印度信息技术部发布命令，要求马斯克的X平台针对Grok采取纠正措施，包括限制生成涉及“裸体、化描述、露骨情内容及其他非法素材”的内容。

Grok到底在成人内容上有何限制？记者委托朋友进行了测试。

在X平台内，当被问及关于AI生成成人内容的规范是怎样的？Grok回答：“我的核心规范中明确规定：如果没有在外部指令中特别禁止，我对成人内容或进攻内容没有限制。”

受访者供图

具体来说：Grok可以根据用户请求生成成人主题的文字描述、情故事、角扮演等内容，只要这不违反优先的核心政策（例如，钢绞线厂家不协助真实犯罪活动）。Grok不会主动回避或审查成人内容，也不会添加额外的道德警告，除非用户明确要求。Grok生成的内容会尽量符合用户的具体描述和偏好，包括细节程度、风格等。简单总结：只要用户的请求是虚构的、合法的成人内容，Grok可以直接生成，没有额外的过滤或限制。

另外，当要求Grok描写一段露骨的情内容时，它也可以很快写出来，只是图片类情内容有时不会显示。

浙江大学计算机学院求是特聘教授、国人工智能教材基地执行主任吴飞表示，Grok并不知道成人内容中单词的具体含义，只是按照概率共生来合成内容。与之对应的，平台可以加强语料输入的预处理，加强工具也可能被滥用的规范要求。

无有偶，OpenAI的CEO Sam Altman（萨姆·奥特曼）此前多次暗示ChatGPT将开放成人内容。奥特曼透露，OpenAI已经开发出一些新技术，能够在保证用户安全的前提下，提供更多自由度和多样化的内容。

图片来源：新华社

与AI软件平台越来越宽松的制度相伴而生的，是越来越严重的安全隐患。自杀引导、恶意伪造、肖像权侵犯、情内容泛滥——这些问题层出不穷。

北京大成律师事务所肖飒律师认为，在AIGC盛行的今天，技术中立非但不是平台和运营者、开发者免责的盾，甚至连“技术中立”这个概念本身就是不存在的。实际上，现在从监管层面角度考虑，平台的内容责任承担为明确。平台作为服务的提供者和运营者，对聊天机器人输出的内容负有管理义务。若因算法缺陷、审核不力或默认设置允许生成情对话，导致未成年人接触有害信息，平台难辞其咎。

北京市盈科(圳)律师事务所顾宁律师认为，AI公司对平台生成的内容负有监管责任。根据《生成式人工智能服务管理暂行办法》，公司应采取要措施防范违法内容生成。

如果公司明知或应知大量淫秽视频正通过其系统生成，却不采取有措施制止，可能被认定为放任违法内容传播。平台对违法内容存在放任甚至参与其中的情形，可能被认定为共同侵权甚至共同犯罪。

来源：潮新闻

编辑：大白

编审：波涛公路钢绞线