在AI技能给人们的工作和日子带来诸多便当的同时,也有不法分子借用这一新式技能做起了坏事。6月份以来,“AI欺诈”一词频频冲上热搜。“10分钟骗走430万元”“换脸组成不雅视频试图敲诈18万元”“AI换声伪装老友借钱不还”等案子相继出现。
受访专家认为,跟着人工智能技能的开展,不法分子使用AI施行欺诈的精准性、隐蔽性进一步增强,需高度警觉。人工智能安全办理需多方协力,完善监管体系迫在眉睫。
据记者了解,“AI欺诈”至少要具有以下几个条件:搜集被换脸目标的个人身份信息、获取很多人脸图片和语音素材、经过AI生成以假乱真的音频和视频、充沛掌握被欺诈人的身份信息、了解被欺诈人与被换脸人的社会关系。
《证券日报》记者日前在某平台咨询后得悉,定制AI换声音、AI换脸视频分别要支付4000元、8000元,打包一套11000元,条件是要向对方供给想要定制的音频样本、相片。但定制内容只能在对方供给的平台上使用,不可下载保存到个人手机中。
由此来看,“AI欺诈”成本较高,由个人来施行并不容易。盈科全球总部合伙人叶庚清律师对《证券日报》记者表明:“这类网络欺诈已呈现出显着的链条化、平台化作案特征。”
叶庚清称,一般由上游黑产供给各种根据人工智能技能的专用设备工具、算法,为下流电信网络欺诈供给技能支持。“在这条产业链中,不法分子使用互联网分工配合。欺诈案子产生时,坐落上游的不法分子或许以自己不知情来躲避法令制裁,这也是办理电信网络欺诈案子的难点之一。”
除了欺诈外,不法分子还能经过AI技能施行非法集资、非法传销、侵略知识产权等至少7类违法犯罪行为。
“人工智能应用到经济活动中,还或许触及不正当竞争与独占行为。未来,咱们乃至或许需求评论AI能否成为独立承担责任的主体。待AI技能开展到必定阶段,它或许会被应用到很多场景,如果有违法行为,将或许触及民事责任、行政责任以及刑事责任的承担。”我国政法大学本钱金融研究院副院长武长海告知《证券日报》记者。
事实上,跟着AI技能的加快迭代应用,业界关于加强监管、完善立法的呼声也越来越高。
据记者了解,我国现有法令体系能处理与AI技能有关的大部分违法犯罪行为,但条件是涉案人员归案。
一位公安体系工作人员对《证券日报》记者表明:“触及AI技能的欺诈案子,其涉案人员多在海外,资金也多流向海外,侦破难度较大。”
一位检察院体系工作人员也告知《证券日报》记者:“处理该类案子的难处首要有两方面:一是落地查人难,嫌疑人在网络上登记的信息根本都是假的;二是骗走的钱难追回,嫌疑人拿到钱后很快就转走。”
上海社科院数字化绿色化协同开展研究中心主任、清华大学国家办理研究院特聘研究员李易对《证券日报》记者表明:“国内法令标准能否对境外人工智能服务供给者进行有用约束,要打个问号。这触及到不同法令体系的跨国协作。”
叶庚清也表明,使用AI技能施行的违法犯罪行为,其精准性、迷惑性、隐蔽性都大大加强,导致侦办冲击难度加大;司法实践中,办理该类违法犯罪行为时面临的“侦办破案难”“电子取证难”“确定处理难”等问题愈加突出。
而我国现已开始探究并逐步构建完善的人工智能监管体系。
此前,已有《新一代人工智能开展规划》《互联网信息服务深度组成办理规则》等文件正式公布。2023年4月份,国家网信办起草《生成式人工智能服务办理办法(征求意见稿)》并向社会揭露征求意见,提出AI内容必须真实准确,制止非法获取、披露、使用个人信息和隐私、商业秘密。
不仅如此,近期,国务院办公厅发布的《国务院2023年度立法工作计划》还将人工智能法草案列为准备提请全国人大常委会审议项目,阐明相关立法已提上日程。
武长海表明,人工智能法应当是综合性立法,会触及刑事责任、行政责任以及民事责任,还或许触及顾客权益维护以及反不正当竞争、反独占等。“但终究也或许是原则性规则,实现和已有法令标准的有用衔接。”
“人工智能法或许会将冲击跨境违法犯罪行为作为重要因素,加强与反电信网络欺诈法、反洗钱法、数据安全法的体系协同,经过建立区域协作、国际公约等方法冲击使用人工智能的违法犯罪行为,设定更有利于获取跨境犯罪证据的规则。”北京扬涛律师事务所主任杨涛表明。
但也有人忧虑较强的监管会阻碍AI技能的开展。对此,北京中科晶上副总经理杨小军对《证券日报》记者说:“现有的以及还在计划中的标准与监管,首要在于抑制AI技能带来的负面效应,并不会限制技能开展。更为严苛的监管是用技能对技能进行管控,但这也需求技能进步到必定程度才行。”
http://finance.china.com.cn/industry/20230706/6005818.shtml
配图:pixabay