内容安全复习 1 - 信息内容安全概述

信息内容安全简介

网络空间

网络空间是融合物理域、信息域、认知域和社会域，控制实体行为的信息活动空间。
上图展示了网络空间安全的结构。可以看到将网络空间划分为了网络域和内容域两个部分。

信息内容安全

• 什么是信息内容安全
  （1）信息内容安全是信息安全在法律、政治、道德层次上的要求，是语义层次的安全。是什么
  （2）广义的信息内容安全包括数据的获取，信息内容的分析与识别，数字图像视频内容安全，多媒体信息隐藏，隐私保护等诸多方面。有什么
• 信息内容安全的研究意义
  （1）数字资料的利用更加便利，然而人们也可以对其进行任意修改和伪造。
  （2）互联网上数字媒体信息的真实性和完整性被进行破坏。
  （3）虚假新闻的社会传播和暴力煽动语言的负面社会影响。fake news!（川普拉手风琴
  （4）网上利用信息加密与内容隐藏等技术，进行隐秘传输非法信息。
  （5）为逃避监管，网络舆情情报信息正在向暗网转移。
• 信息内容安全与传统的信息安全之间的关系
  （1）传统信息安全的工作是，为信息制作安全的“信封”来传输（加密解密）。
  （2）信息内容安全则是读懂信的内容，判断敏感或正常。
  （3）信息内容安全的关键是理解信息内容。

大模型

• 大模型是指具有大规模参数和复杂计算结构的机器学习模型。这些模型通常由深度神经网络心构建而成，拥有大量参数。
• 大模型的设计目的是为了提高模型的表达能力和预测性能，能够处理更加复杂的任务和数据。
• 大模型在各种领域都有广泛的应用，包括自然语言处理、计算机视觉、语音识别和推荐系统等。大模型通过训练海量数据来学习复杂的模式和特征，具有更强大的泛化能力，可以对未见过的数据做出准确的预测。

人工智能简介

• 分类
  （1）专用人工智能：一个或多个专门领域和功能。
  （2）通用人工智能：机器与人类一样拥有进行所有工作的可能，并自动地认知和拓展。
  （3）超级人工智能：具有自我意识，包括独立自主的价值观、世界观等。文学作品
• 人工智能 vs 机器学习 vs 深度学习
  
  如上所示，深度学习是机器学习的一个特定领域，而机器学习是人工智能的一个分支。换句话说，深度学习隶属于机器学习，而机器学习隶属于人工智能。
• 机器学习和深度学习流程
  
  上图展示了一个机器学习的具体步骤。我们可以将其具体描述为三个步骤。
  （1）定义一组方程组。
  （2）衡量方程的优劣。
  （3）找出最好的方程。
  机器学习算法以数字向量的形式接受输入。以一种特定的方式设计输入，从而从模型中得到一个错误的结果，这便被称为对抗性攻击。
  而对于深度学习，我们只需要将第一步替换为“神经网络”即可。
• 人脸活体检测
  这种检测被用来在身份验证场景中确定对象真实生理特征。通过点头、眨眼等动作，使用人脸关键点定位、人脸追踪等技术验证用户。