索尼互动娱乐(SIE)近日提交了一项编号为18/314775的新专利申请，计划在PlayStation Network(PSN)中部署由大语言模型(LLM)驱动的AI“伪账户”，以主动识别并标记潜在的诈骗者、骚扰者及不法分子。
与传统的被动举报机制不同，这套名为“大语言模型驱动的社交诚信系统”的系统采用了一种主动诱捕的策略。
根据专利描述，这些由AI控制的伪账户能够高度还原特定群体(如未成年人)的聊天习惯与行为特征，并伪装成普通玩家，被刻意放置在恶意用户可能寻找目标的社交场景中。当可疑用户与这个AI账号建立联系并进行互动时，系统便会启动分析程序，对对话内容及行为模式进行深度研判。
系统设定的监控目标涵盖了多种违规行为，包括但不限于：
· 发送垃圾信息与诈骗企图
· 索要个人隐私信息
· 针对未成年人的不当接触
· 发送不当消息
· 游戏内作弊行为
值得注意的是，这套机制并非采取“一刀切”的处罚方式。即便AI账号在交互中捕捉到了可疑信号，系统不会立即封禁对方，而是将其标记为潜在危险账号并纳入持续观察名单。
当该用户随后主动联系真实玩家时，系统会向对方发出警告或采取保护措施。如果用户多次触发风险警报，则可能面临封禁处理。其核心目的，是在潜在危害发生前进行识别和干预，以提升PlayStation的在线社区安全，特别是保护未成年玩家。
业内分析也指出，该系统在实际应用中可能面临隐私保护和误判等挑战。AI对用户对话的分析范围及危险判定标准，将成为决定其有效性和公正性的关键问题。
与所有科技公司的专利一样，这项技术最终是否会真正应用到PlayStation产品中仍是未知数。科技企业通常会申请大量专利进行前瞻布局，其中不少最终不会转化为实际产品。目前，这项专利更多是表明索尼正在探索利用AI技术主动识别恶意用户、净化平台环境的可能性。
