研究文库
OSAFIS 2.0.0-draft.1 的十三份文档——一项用于描述和评估智能系统安全失效的研究提案。
- 01OSAFIS 研究愿景
OSAFIS 提出一种用于分析智能系统安全失效的通用表示方法。其目的在于，把失效的安全契约与所涉及的组件或关系、影响机制、支撑该发现的证据，以及在已声明系统边界内产生的后果联系起…
- 02基础概念
OSAFIS 提出一套术语，用于描述智能系统中的安全失效以及评估这些失效所需的证据。其分析单元是处于运行环境中的、已部署或已规定的系统。
- 03安全层
OSAFIS 的九个层标识符，按照其安全契约可能失效的对象、功能或关系来组织分析。在本次修订中，“层”指的是一个暂定的分析领域。
- 04安全属性
安全属性指称一项义务，评估可以针对受保护的对象、功能或关系将其具体化。攻击机制描述影响如何发挥作用；领域确定相关契约所在的位置；属性则说明该契约保护的是什么。
- 05威胁模型
本威胁模型描述智能系统如何因对抗性影响，或因不存在对手的、与安全相关的失效，而丧失某项规定的安全属性。其分析单元是在明确假设之下已部署或拟议的系统。
- 06攻击分类法
对攻击的分类应说明对手尝试了何种干预、该干预挑战了哪项契约，以及有哪些证据把干预与后果联系起来。输入格式、醒目的输出或好记的名称，都无法提供这种说明。
- 07评估方法
本方法把一个安全假设转化为范围明确、可复现的评估。它规定了相关制品和决策规则，用于研究某项既定契约能否失效、失效如何发生，以及现有证据能够支持哪些结论。
- 08系统概况
领域概况规定框架如何应用于某一有限类别的部署。分析术语可以在不同系统之间通用，而权限、暴露程度、允许的行动、证据要求和验收决策则各不相同。
- 09漏洞登记库
登记库记录主张、证据、决定及其修订历史。被收录并不代表其有效，也不代表获得框架认可。分类属于分类体系的范畴；登记库保存的是评估某项具体发现或提案所依据的记录。
- 10OSAFIS 与现有框架的关系
OSAFIS 应当与成熟的人工智能安全资源协同使用。其拟议的贡献是一种以契约为中心的表示方法，把发现与分析领域、系统中的实际关系以及证据联系起来。
- 11OSAFIS 版本与标识符
拟议的格式为 MAJOR.MINOR.PATCH，可附加预发布后缀。主版本（MAJOR）修订会改变对现有案例的解释或分类义务，例如改变某个领域的边界、删除某个属性或改变某个机制的…
- 12未来与自主系统
当智能系统在线学习、修改其可执行规则、观测数字环境、控制物理设备，或与人和其他系统协同工作时，OSAFIS 都应当依然有用。这是一个设计目标，而不是已经证明的保证。
- 13示例案例
下面的十二个案例全部是假设性的，均未执行。它们既不是经过验证的发现，也不是登记库条目。其标识符只是本地的教学引用。