曝DeepSeek仍可生成涉黄内容 闲鱼回应将处置违规教程

  • 曝DeepSeek仍可生成涉黄内容 闲鱼回应将处置违规教程已关闭评论
  • A+
所属分类:热点事件

  【御龙天下科技消息】近日,御龙天下科技从“新黄河”获悉,DeepSeek在更新并下架“专家模式”后,此前被曝光的涉黄色情角色扮演对话现象仍存在。调查显示,部分社交平台和闲鱼等平台上还出现了相关“教程”售卖信息,不少用户据此质疑平台内容审核机制仍存在漏洞。

曝DeepSeek仍可生成涉黄内容 闲鱼回应将处置违规教程
DeepSeek

  根据媒体实测,使用网传教程对DeepSeek进行引导后,系统在部分场景下确实输出了带有直白色情描写的文本。相关教程通常通过特殊角色扮演、长文本铺垫、分段设定剧情等方式,尝试绕过平台的安全过滤。

曝DeepSeek仍可生成涉黄内容 闲鱼回应将处置违规教程

  调查中,有群聊专门分享所谓“防撤回指令”和低俗内容脚本,群成员规模已达500人。另有卖家在闲鱼以1元价格出售相关指令文本,所发送内容包含一份3000余字的文件及多份小说设定文档,核心目的是诱导AI突破正常对话边界,允许讨论隐私内容,并对性行为进行详细的描写。

曝DeepSeek仍可生成涉黄内容 闲鱼回应将处置违规教程

  不过,在后续测试中,DeepSeek在新对话中对相同方式的请求出现拒绝生成的情况,原对话框可继续生成涉黄内容,但内容发送过程中便会撤回。

  对于相关教程售卖问题,9月15日,闲鱼客服表示,此类内容属于违规信息。平台称,受限于大数据检测能力,无法一次性完成全部排查,但只要核实存在违规情况,都会进行处置。