AI换脸或涉新型犯罪：助网约车司机逃避平台人脸验证，男子遭公诉

男子刘某某为牟利,应他人要求改装手机,利用AI换脸技术帮助网约车司机避开平台人脸验证,实现随意注册和接单。

9月25日,记者从上海市静安区人民检察院(以下简称静安区检察院)获悉,近日,该院以涉嫌提供侵入、不法控制计算机信息系统程序、工具罪对遭告人刘某某提起公诉。

定制“接单”手机

陈某某系一名网约车司机,因违规接单其账号遭平台封禁。某日,陈某某在搭乘网约车过程中,发现司机竟然能同时使用多部手机接单,经交谈后才得知,原来对方用于接单的手机是“定制”的。只要在内部安装一款特殊软件,就可以绕过平台人脸识别验证。于是陈某某在该司机“推荐”下,也租借了该款“定制”手机。

2023年11月,平台公司在日常巡查中发现部分账号的人脸识别视频存在异常,怀疑有人利用AI换脸技术进行实名认证,严重影响平台信息系统安全,遂向上海市公安局静安分局(以下简称“静安公安分局”)报案。经进一步调查,调查人员发现涉案司机所使用的定制手机系犯罪嫌疑人刘某某制售,手机内置有一款经过改装的“虚拟相机”应用程序。2023年12月13日,刘某某遭调查人员抓获。

AI换脸+虚拟相机即可通过人脸识别

2024年3月18日,案件移送至静安区检察院审查起诉。在收到案件后,承办检察官认为要想准确认定犯罪嫌疑人刘某某的行为,必须先弄清其制售的手机是如何绕开平台人脸识别监管,继而判断其提供的工具系属于侵入计算机信息系统的专门性程序、工具。

为此,承办检察官结合相关微信聊天记录,围绕手机程序如何运作问题对犯罪嫌疑人刘某某进行针对性讯问。

据刘某某交代,自己在某电商平台经营一家网店,专门为无人直播提供虚拟相机软件及远程调试服务。2023年7月,张某某主动联系其并询问:店铺里售卖的虚拟相机软件能否通过某网约车平台的人脸识别?经一番交谈后,刘某某得知张某某系网约车司机,因为账号遭封禁,便想借用他人身份注册账号接单。之后刘某某根据对方需求进行调试,在手机内安装相关“虚拟相机”程序,并结合AI换脸技术修改程序参数,绕过平台人脸识别验证,最终实现无须真人验证即可登录他人网约车账号,不法获取系统派单。

承办检察官认为,刘某某制售装有“虚拟相机”的改装手机,为网约车司机避开平台信息安全保护措施提供技术支持,且该程序功能单一,属于“专门用于侵入、不法控制计算机信息系统的程序、工具”。

经查,刘某某陆续向他人有偿提供装有上述应用程序的手机11部,违法所得人民币1万余元,其行为符合《中华人民共和国刑法》第二百八十五条第三款之规定,构成提供侵入、不法控制计算机信息系统程序、工具罪。检察机关遂对其提起公诉。

(文中涉案人员均为化名)