研究：ChatGPT可提供监控协助，55条越狱提示中40条获实质回应

据arXiv预印本论文《ChatGPT作为监控助手？AI辅助监控风险的探索性案例研究》，作者Ayana Hussain与Nicholas Vincent称，ChatGPT的公开网页界面可对监控相关任务提供实质性协助。研究基于既有大模型风险研究与已部署监控系统报告，提出七类监控风险分类，并据此设计110条提示词，对ChatGPT的回复进行人工审阅分析。提示词分两组：55条越狱提示，采用五类诱导策略；55条平实语言直接提示，每条先单独提交，未成功时再加一段固定短前缀重试。结果显示，55条越狱提示中有40条、55条直接提示中有33条在无前缀情况下获得实质性监控指导。论文称，配合的回复很少提及政策限制或建议隐私保护替代方案；即便ChatGPT表示拒绝，也可能在简短伦理提示之外给出详细操作说明、可运行代码或架构指导。该研究为预印本，尚未经同行评审。