AI给内容安全带来新挑战

发布时间：2021-05-31 19:20:32 所属栏目：最新资讯来源：网络整理

导读：近年来，内容安全已经成为情报与安全信息学一个重要的研究点。经过了长期的发展过程，从911事件到基于内部业务的分析，发展过渡到互联网和大数据时代，怎样去识别互联网上一些敏感的内容和信息，再到人工智能和大数据时代，我们发现无论是从内容的产生，再到

近年来，内容安全已经成为情报与安全信息学一个重要的研究点。经过了长期的发展过程，从“911”事件到基于内部业务的分析，发展过渡到互联网和大数据时代，怎样去识别互联网上一些敏感的内容和信息，再到人工智能和大数据时代，我们发现无论是从内容的产生，再到内容的传播，都有完全不同的新挑战。

总体来说，AI时代早期的安全是以文本形式，但过渡到AI时代，更多的内容以多样化的内容生成，包括视频和图片深度的伪造，利用影视信息或者是特征刻画，以及基于心理学的传播去精准影响我们的传播受众，在AI新形势下的内容安全有了不一样的内涵。

目前来看，国内外的技术发展非常快。从大家熟知2017年Deepfake，一张非常简单的图片或者人脸，跟所有的视频和图片进行便捷的换脸技术，能够伪造出非常逼真的图片形象。再到国外的DeepNude应用，用一个照片能够通过“脱衣”的应用进行场景和形象的变化。以及ZAO，能够对视频相关的人的脸部或者表情进行切换，达到了以假乱真的效果……近年来，这些基于深度学习的技术，针对内容智能生成、智能替化，已经成了很大的内容安全隐患。

总体来说，网络内容安全跟我们信息安全一样，也存在着攻防体系的对抗性。从基本有害的文本和内容的生成，有害图片内容生成以及伪造视频，社交机器人都可以产生对内容层面的攻击，对社会和经济产生很重要的影响。同时，我们在防守方面，怎么样去检测哪些文本是机器人生成或是人自己写作的，哪些视频是被篡改过的，哪些视频是经过换脸的，这又是一个防御体系。总体来说，希望能检测更具体的信息，这是AI时代内容生成重点研究课题。

文/贵州日报天眼新闻记者江婷婷李兰松王法陈玲整理

图/贵州日报天眼新闻记者旷光彪杨涛摄

（编辑：555手机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!