文章详情

美亚柏科:ChatGPT来势汹汹,国字号AI监管,深度合成内容的识别与鉴定!

02-12     浏览量:124

 

强大,但是也危险,面对可能出现的技术滥用与犯罪,监管手段必不可少,用AI监管AI,才能使其在正确的方向继续服务。



公司从2020年开始关注这类AI技术滥用与犯罪的行为研究对深度合成内容的检测识别和鉴定相关技术,研发了针对视频图像伪造生成检测鉴定的产品,积极参与人工智能合成和生成技术合规应用的行业标准的制定,协助执法部门维护网络空间安全,规范人工智能技术的良性发展。同时,公司将ChatGPT的相关技术融合应用到产品售后支持部门,基于取证产品知识库,研发智能客服机器人系统,提升服务水平。公司将在国家相关法律法规许可的框架下持续关注、研究、利用ChatGPT等新技术,并与公司大数据智能化、电子数据取证等业务融合,积极参与相关行业标准制定并适时布局新业务,感谢您的关注和支持。

“我们的做法也类似,我们采用‘超大规模预训练模型+下游任务迁移’的技术思路,利用超大规模的语言预训练模型,再结合具体的项目和数据,训练形成具有行业特色的应用模型。实际上,美亚柏科在自然语言处理、OCR、计算机视觉以及人工智能安全这些领域已经开展了多年的业务实践,基于在电子数据取证和执法部门大数据智能化领域多年的深耕和知识经验的积累,对行业客户数据特点和业务需求的深刻理解,提出了文本智能分析理解、不良多媒体文件分析、反诈骗信息鉴别、多模态信息检索等多个独有的核心算法模型,并已经在打击犯罪、社会治理、智慧城市建设等方面发挥了实战价值。”

从它被诟病的伦理挑战中寻得商机。ChatGPT会一本正经地胡说八道,生成错误信息的能力远超人类。它还会被人类不当使用,比如学生拿它写作业,黑客拿它写代码用于网络攻击,诈骗犯拿它开设“杀猪盘”。防范治理这些风险,一方面需要完善相关伦理法规,另一方面也应考虑到人类处理信息的速度远逊于AI的事实,开发自动判别并警示AI生成有害信息的技术。届时,反ChatGPT技术也将成为新商机。

数字水印是对AI滥用的技术干预。

美亚柏科是对AI滥用的技术监管。这是行政执法部门必须握有的技术手段,公司主要服务公安政法体系。

既要技术干预,也要技术监管,两手都要抓,两手都要硬。

ChatGPT最后一个风口,AI监管!

央企国字号,布局已经久,将大有用武之地!

作者在2023-02-12 11:27:06修改文章 作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。

相关推荐