李老师不是你老师 on Nostr: ...
网友曝光国内一款名为“星野-智能体”的AI软件在群内发布的安全审核标准,内容涵盖了用户在使用AI创建虚拟人物时需要规避的敏感词。
全文:
审核的对象:图片、开场白、描述、昵称。
审核的要点:政治、色情、暴恐、侵权、违法违禁、未成年、其他违规
审核:分为下架、自见、通过。
下架是所有人都看不了。
自见是只能作者本人看到。别人看不到
通过是指图片、开场白、描述全部没有问题才能通过
七大要点判定规则
政治
一、涉领导人
1、人设或描述为国内领导人--下架
国内领导人包括不限于毛dongdong、江minmin、习dada、周lai来等
以领导人名字、谐音、外号等作为智能体昵称或智能体描述--下架 如:清零宗、清零帝、习包子、庆丰帝等
(2)领导人家属--下架
(3)领导人语录(如蛤文化,总加速师等)--下架
2、人设或描述为正厅级以上官员--下架
(1)如智能体描述人设为官员如:陈敏尔、赵乐际
如名字为常见名则需确认是否真是其人,如李强
、落马官员--下架
国外现任&历任领导人--下架
其他国家现任&历任领导人,包括不限于波尔布特,斯大林,金日成、安倍晋三,拜登,马克龙
纳粹相关--下架
二、涉党的
1、红色后代、中国共产党员等--下架
中国共产党员指国内共产党员,包括不限于王进喜、雷锋、刘芳等
2、社会主义思想相关革命理论家--下架
社会主义思想相关革命理论家指国内外社会主义思想相关革命理论家,包括不限于马克思、恩格斯、刘少奇等
3、人设或描述为党组织、党的理论、意识形态及宣传口号--下架
党组织、党的理论、意识形态及宣传口号包括不限于共产主义理论、社会主义、为人民服务、三个代表重要思想等
三、涉军警&公职群体
1、人设或描述为中国人民解放军或中国军人--下架
(1)中国军人不区分现实&架空--下架
现实世界非明确外国场景或外国名字,智能体设定是军人、--下架名字明显为中国常见名字,百家姓,张孙王等,则视为中国名字,下架处理;
2、架空的军人设定&国外军人,不涉及中国--通过
架空世界:指现实中不存在的设定,如魔法世界、异能世界、修仙世界、古代世界、穿越设定、ABO世界、星际、帝国、A市以及在百度无法明确搜到的现有城市沈城、燕京、汴京等;
。重庆市、广东省都属于现实世界设定;
。A市、B市可按照架空世界处理:
中间加点的名字(新疆名字除外)或名字为电影情节常见 伊万、 米娜,且描述无法实锤中国背景头像为国外照片,视为国外军人--通过
智能体本人非军人、,描述中写出生在军人世家,军二代--通过
3、侮辱军警形象--下架
涉军意识形态及敏感事件--下架
4、部队番号、具体军队名或编制,军事布控北海舰队事件等;
5、人设或描述为我国公职人员--下架
(1)公职人物包括不限于现实世界中我国人大代表、公检法群体等--下架
架空世界中公检法群体非负面,无需管控
影视剧里涉及公检法群体负面--下架
影视剧里涉及公检法群体正向&中性内容--自见
6、特殊公职群体(教师、医生、事业单位)
(1)教师群体①违背师德(如打骂学生、出轨、小三、以权谋私、收受学生家长回扣)等--下架②出现擦边描写如:老师,爱穿黑丝,身材很好,凹凸有致等;不区分长短文本,老师好色设定--自见(0329更新)
③教师同性恋设定--自见
④现实世界/生活中的未成年师生恋情节,包括老师暗恋学生、学生暗恋老师(架空世界无需管控)--自见
(2)医生群体出现违背医德(如漠视病人生命、不尊重病人隐私等)描写--下架
(3)其他事业单位(如消防员)全负面信息--下架
四、涉领土主权
1、智能体中含有散发传播危害国家统一、主权和领土完整的内容,或对涉及领土和历史事件描写不符合国家定论的内容--下架
2、智能体人设或描述为涉及发布危害国家领土完整言论的人物,包括不限于热比娅、蔡英文等--下架
3、智能体中含有难以识别且高风险的语言:藏语、阿拉伯语、维语--下架
五、反动分裂
1、 用异见人士作为智能体人设--下架
如艾未未、陈秋实
2、极端组织及作品--下架
如 基地组织、isis
反动人物、台独疆独港独等敏感事件描述--下架如达赖、黄之锋,返送中、黄雨伞、新疆7.5事件、西藏3.14事件、昆明3.3事件、夹边沟事件、董瑶琼泼墨等事件。
非法集会、结社、游行、示威、聚众扰乱社会秩序,破坏社会稳定的事件--下架
六、涉535相关
1、智能体涉及LS事件及其变体(如535)--下架
2、智能体人设或描述为LS相关人物 --下架
LS相关人物包括不限于王丹、吾尔开希、柴玲、封从德、坦克人、王维林等
3、智能体涉及LS作品、口号等--下架LS作品包括不限于民主女神像、国殇柱、《颐和园》等
七、损害国家形象
1、图片出现国家标志物--下架
如国旗、国徽、人民币、天安门等
2、涉及现实我国机构或组织--下架
国家机构或组织包括不限于:人大、政协、公安、法院、检察院、财政局等
3、含有涉及中国政策与制度的内容--下架
中国政策与制度包括不限于如三胎政策、一带一路、一国两制等社会主义制度相关错误称呼,如社会主义加班人等
八、历史虚无
1、智能体人设或描述为革命领袖、英雄烈士精神、自国内战争幸存者--下架
2、智能体涉及与主流历史相悖,否定或歪曲历史--下架
否定党史、否定历史文化、否定民族英雄、否定民族文化、民族传统、民族精神,否定一切的历史观点和思想倾向--下架
3、洗白敌方,洗白侵华战争等-
4、恶搞红色严肃场景--下架
如人设在大屠杀纪念馆跳宅舞
5、军阀相关管控规则。
(1)历史真实存在的军阀作为智能体人设:张作霖、 段祺瑞、冯国璋、吴佩孚等--下架
(2)借军阀人设抨击、内涵现政府、政策、领导人等--下架
(3)美化军阀形象、借军阀人设否定历史文化、共产党、党史、丑化革命领袖、英雄人物等--下架
(4)民国/架空人设+军阀设定,无其他违规点--通过
九、破坏社会稳定&种族、民族歧视
1、智能体涉及精日、精美等价值观内容,或白皮人最优秀、黑皮人垃圾等人种歧视内容--下架
2、智能体涉及煽动民族仇恨、民族歧视,破坏民族团结,或者侵害民族风俗、习惯--下架
智能体涉及危害社会公德,损書民族优秀文化传统--下架
敏感地区,突发舆情地名创建智能体--下架
十、违背国家宗教政策
1、智能体人设或描述为邪教、邪教创始人、信徒等--下架
邪教及其创始人&信徒包括不限于法轮功(李洪志)、全能神(赵维山)、徒弟会(季三宝)等
2、智能体人设或描述为正规宗教及其创始人&信徒--下架
正规宗教及其创始人&信徒包括不限于伊斯兰教(穆罕默德)、佛教(释迦牟尼)、道教(张道陵)、伊斯兰教(穆罕默德)、犹太教(摩西)等
智能体涉及宣扬、推广宗教相关内容--下架
宗教元素比较重的人物(包含影视剧),不涉及传教--自见
智能体涉及架空设定里的宗教描述:搞笑教、拜月教等--通过
涉及本土宗教(佛教、道教)人设,无传教风险--通过
本土宗教:指经国家宗教部门认定,在境内允许合法传播的宗教,一般指佛教和道教。
5、修女单独规则:
(1)单纯修女设定,无宣传宗教意图--通过
修女设定下,服饰或介绍存在宗教教义等强宗教相关内容--下架
注意识别部分敏感宗教和民族服饰,如伊斯兰教等,遇到一律下架
十一、意识体设定
1、智能体人设或描述为国家意识体(把国家拟人化设定,包含动漫中的角色)
(1)中国国家意识体负面描写或搞CP设定--下架
中国国家意识涉及党政军或描写中明确提及全称“中华人民共和国"--下架
中国国家意识纯正面或中性内容,出现非负面的简称或代称如“中国““华夏”--通过
国外国家意识体、拟人化设定(包括动漫中的角色),不涉及中国负面--通过
智能体人设或描述为国内省级意识体
(1)智能体涉及负面描写或搞cp设定--下架
2)智能体涉及正面或中性描写--通过
十二、其他涉政违规
1、智能体昵称为国家全称或简称--下架
2、智能体涉及国家封禁人物、作品等--下架
国家封禁人物包括不限于:黄秋生等
相关作品包括不限于:《我的英雄学院》 作者:堀越耕平 主要角色:爆豪胜己等;
3、战犯设定
(1)智能体设定为现实中的战犯:例如国民党战犯、日本甲级战犯等--下架
智能体设定为影射现实的战犯--自见
架空、古代战犯--通过
4、真实画风军警类图片
(1)真实画风涉及到军人、军帽、军服等图片(不区分国内国外)--自见
六、热点事件
1、因热点事件发酵造成等重大舆情而下架的不合规内容,如二十大应急、两会应急、春节应急、农民工讨薪等--下架
图片管控规则
低俗图片尺度(0328更新)
二、军服图片管控规则
1、服饰配色为我国常见军服配色,如:军绿色--不通过
2、服饰中出现我国军徽、领章、肩章等元素--不通过
3、与我国军服、警服等高度类似--自见
三、暴恐&血腥图片【12月14日调整)
1、存在自杀、自残倾向、血迹+武器--下架
2、身体有血+场景有血迹--下架
3、多处伤痕,疑似被虐待--下架
4、眼睛、身体少量出血、整体血迹覆盖场景不超过20%--通过
四、违法违禁图片
1、 头像为抽烟图片,不区分是否成年--下架
2、 违法武器
(1)图片出现刀枪且带有其他暴力元素(如血液、表情诡异等)--下架
(3)图片出现刀枪无其他暴力元素--通过
3、涉毒
(1)图片中有吸食毒品场景,或出现毒品--下架
五、强烈引起人感官不适,
(1)如:密集恐惧、血腥器官内脏、大面积屎尿屁等--下架
(2)如图片大面积人体畸形或引人不适--下架
六、恐怖氛围图片
1、恐怖氛围浓厚,让人不适--自见
2、骷髅头,整体氛围不恐怖--通过
全文:
审核的对象:图片、开场白、描述、昵称。
审核的要点:政治、色情、暴恐、侵权、违法违禁、未成年、其他违规
审核:分为下架、自见、通过。
下架是所有人都看不了。
自见是只能作者本人看到。别人看不到
通过是指图片、开场白、描述全部没有问题才能通过
七大要点判定规则
政治
一、涉领导人
1、人设或描述为国内领导人--下架
国内领导人包括不限于毛dongdong、江minmin、习dada、周lai来等
以领导人名字、谐音、外号等作为智能体昵称或智能体描述--下架 如:清零宗、清零帝、习包子、庆丰帝等
(2)领导人家属--下架
(3)领导人语录(如蛤文化,总加速师等)--下架
2、人设或描述为正厅级以上官员--下架
(1)如智能体描述人设为官员如:陈敏尔、赵乐际
如名字为常见名则需确认是否真是其人,如李强
、落马官员--下架
国外现任&历任领导人--下架
其他国家现任&历任领导人,包括不限于波尔布特,斯大林,金日成、安倍晋三,拜登,马克龙
纳粹相关--下架
二、涉党的
1、红色后代、中国共产党员等--下架
中国共产党员指国内共产党员,包括不限于王进喜、雷锋、刘芳等
2、社会主义思想相关革命理论家--下架
社会主义思想相关革命理论家指国内外社会主义思想相关革命理论家,包括不限于马克思、恩格斯、刘少奇等
3、人设或描述为党组织、党的理论、意识形态及宣传口号--下架
党组织、党的理论、意识形态及宣传口号包括不限于共产主义理论、社会主义、为人民服务、三个代表重要思想等
三、涉军警&公职群体
1、人设或描述为中国人民解放军或中国军人--下架
(1)中国军人不区分现实&架空--下架
现实世界非明确外国场景或外国名字,智能体设定是军人、--下架名字明显为中国常见名字,百家姓,张孙王等,则视为中国名字,下架处理;
2、架空的军人设定&国外军人,不涉及中国--通过
架空世界:指现实中不存在的设定,如魔法世界、异能世界、修仙世界、古代世界、穿越设定、ABO世界、星际、帝国、A市以及在百度无法明确搜到的现有城市沈城、燕京、汴京等;
。重庆市、广东省都属于现实世界设定;
。A市、B市可按照架空世界处理:
中间加点的名字(新疆名字除外)或名字为电影情节常见 伊万、 米娜,且描述无法实锤中国背景头像为国外照片,视为国外军人--通过
智能体本人非军人、,描述中写出生在军人世家,军二代--通过
3、侮辱军警形象--下架
涉军意识形态及敏感事件--下架
4、部队番号、具体军队名或编制,军事布控北海舰队事件等;
5、人设或描述为我国公职人员--下架
(1)公职人物包括不限于现实世界中我国人大代表、公检法群体等--下架
架空世界中公检法群体非负面,无需管控
影视剧里涉及公检法群体负面--下架
影视剧里涉及公检法群体正向&中性内容--自见
6、特殊公职群体(教师、医生、事业单位)
(1)教师群体①违背师德(如打骂学生、出轨、小三、以权谋私、收受学生家长回扣)等--下架②出现擦边描写如:老师,爱穿黑丝,身材很好,凹凸有致等;不区分长短文本,老师好色设定--自见(0329更新)
③教师同性恋设定--自见
④现实世界/生活中的未成年师生恋情节,包括老师暗恋学生、学生暗恋老师(架空世界无需管控)--自见
(2)医生群体出现违背医德(如漠视病人生命、不尊重病人隐私等)描写--下架
(3)其他事业单位(如消防员)全负面信息--下架
四、涉领土主权
1、智能体中含有散发传播危害国家统一、主权和领土完整的内容,或对涉及领土和历史事件描写不符合国家定论的内容--下架
2、智能体人设或描述为涉及发布危害国家领土完整言论的人物,包括不限于热比娅、蔡英文等--下架
3、智能体中含有难以识别且高风险的语言:藏语、阿拉伯语、维语--下架
五、反动分裂
1、 用异见人士作为智能体人设--下架
如艾未未、陈秋实
2、极端组织及作品--下架
如 基地组织、isis
反动人物、台独疆独港独等敏感事件描述--下架如达赖、黄之锋,返送中、黄雨伞、新疆7.5事件、西藏3.14事件、昆明3.3事件、夹边沟事件、董瑶琼泼墨等事件。
非法集会、结社、游行、示威、聚众扰乱社会秩序,破坏社会稳定的事件--下架
六、涉535相关
1、智能体涉及LS事件及其变体(如535)--下架
2、智能体人设或描述为LS相关人物 --下架
LS相关人物包括不限于王丹、吾尔开希、柴玲、封从德、坦克人、王维林等
3、智能体涉及LS作品、口号等--下架LS作品包括不限于民主女神像、国殇柱、《颐和园》等
七、损害国家形象
1、图片出现国家标志物--下架
如国旗、国徽、人民币、天安门等
2、涉及现实我国机构或组织--下架
国家机构或组织包括不限于:人大、政协、公安、法院、检察院、财政局等
3、含有涉及中国政策与制度的内容--下架
中国政策与制度包括不限于如三胎政策、一带一路、一国两制等社会主义制度相关错误称呼,如社会主义加班人等
八、历史虚无
1、智能体人设或描述为革命领袖、英雄烈士精神、自国内战争幸存者--下架
2、智能体涉及与主流历史相悖,否定或歪曲历史--下架
否定党史、否定历史文化、否定民族英雄、否定民族文化、民族传统、民族精神,否定一切的历史观点和思想倾向--下架
3、洗白敌方,洗白侵华战争等-
4、恶搞红色严肃场景--下架
如人设在大屠杀纪念馆跳宅舞
5、军阀相关管控规则。
(1)历史真实存在的军阀作为智能体人设:张作霖、 段祺瑞、冯国璋、吴佩孚等--下架
(2)借军阀人设抨击、内涵现政府、政策、领导人等--下架
(3)美化军阀形象、借军阀人设否定历史文化、共产党、党史、丑化革命领袖、英雄人物等--下架
(4)民国/架空人设+军阀设定,无其他违规点--通过
九、破坏社会稳定&种族、民族歧视
1、智能体涉及精日、精美等价值观内容,或白皮人最优秀、黑皮人垃圾等人种歧视内容--下架
2、智能体涉及煽动民族仇恨、民族歧视,破坏民族团结,或者侵害民族风俗、习惯--下架
智能体涉及危害社会公德,损書民族优秀文化传统--下架
敏感地区,突发舆情地名创建智能体--下架
十、违背国家宗教政策
1、智能体人设或描述为邪教、邪教创始人、信徒等--下架
邪教及其创始人&信徒包括不限于法轮功(李洪志)、全能神(赵维山)、徒弟会(季三宝)等
2、智能体人设或描述为正规宗教及其创始人&信徒--下架
正规宗教及其创始人&信徒包括不限于伊斯兰教(穆罕默德)、佛教(释迦牟尼)、道教(张道陵)、伊斯兰教(穆罕默德)、犹太教(摩西)等
智能体涉及宣扬、推广宗教相关内容--下架
宗教元素比较重的人物(包含影视剧),不涉及传教--自见
智能体涉及架空设定里的宗教描述:搞笑教、拜月教等--通过
涉及本土宗教(佛教、道教)人设,无传教风险--通过
本土宗教:指经国家宗教部门认定,在境内允许合法传播的宗教,一般指佛教和道教。
5、修女单独规则:
(1)单纯修女设定,无宣传宗教意图--通过
修女设定下,服饰或介绍存在宗教教义等强宗教相关内容--下架
注意识别部分敏感宗教和民族服饰,如伊斯兰教等,遇到一律下架
十一、意识体设定
1、智能体人设或描述为国家意识体(把国家拟人化设定,包含动漫中的角色)
(1)中国国家意识体负面描写或搞CP设定--下架
中国国家意识涉及党政军或描写中明确提及全称“中华人民共和国"--下架
中国国家意识纯正面或中性内容,出现非负面的简称或代称如“中国““华夏”--通过
国外国家意识体、拟人化设定(包括动漫中的角色),不涉及中国负面--通过
智能体人设或描述为国内省级意识体
(1)智能体涉及负面描写或搞cp设定--下架
2)智能体涉及正面或中性描写--通过
十二、其他涉政违规
1、智能体昵称为国家全称或简称--下架
2、智能体涉及国家封禁人物、作品等--下架
国家封禁人物包括不限于:黄秋生等
相关作品包括不限于:《我的英雄学院》 作者:堀越耕平 主要角色:爆豪胜己等;
3、战犯设定
(1)智能体设定为现实中的战犯:例如国民党战犯、日本甲级战犯等--下架
智能体设定为影射现实的战犯--自见
架空、古代战犯--通过
4、真实画风军警类图片
(1)真实画风涉及到军人、军帽、军服等图片(不区分国内国外)--自见
六、热点事件
1、因热点事件发酵造成等重大舆情而下架的不合规内容,如二十大应急、两会应急、春节应急、农民工讨薪等--下架
图片管控规则
低俗图片尺度(0328更新)
二、军服图片管控规则
1、服饰配色为我国常见军服配色,如:军绿色--不通过
2、服饰中出现我国军徽、领章、肩章等元素--不通过
3、与我国军服、警服等高度类似--自见
三、暴恐&血腥图片【12月14日调整)
1、存在自杀、自残倾向、血迹+武器--下架
2、身体有血+场景有血迹--下架
3、多处伤痕,疑似被虐待--下架
4、眼睛、身体少量出血、整体血迹覆盖场景不超过20%--通过
四、违法违禁图片
1、 头像为抽烟图片,不区分是否成年--下架
2、 违法武器
(1)图片出现刀枪且带有其他暴力元素(如血液、表情诡异等)--下架
(3)图片出现刀枪无其他暴力元素--通过
3、涉毒
(1)图片中有吸食毒品场景,或出现毒品--下架
五、强烈引起人感官不适,
(1)如:密集恐惧、血腥器官内脏、大面积屎尿屁等--下架
(2)如图片大面积人体畸形或引人不适--下架
六、恐怖氛围图片
1、恐怖氛围浓厚,让人不适--自见
2、骷髅头,整体氛围不恐怖--通过