Профили систем

OSAFIS 2.0.0-draft.1 · Исследовательское предложение · 9 мин чтения

Версия фреймворка: 2.0.0-draft.1. Статус: исследовательское предложение. Профили в этом документе — иллюстративные кандидаты, ожидающие рецензирования соответствующими практиками.

Назначение

Профиль прикладной области определяет, как фреймворк применяется к ограниченному классу развёртываний. Аналитический словарь может быть общим для разных систем, тогда как полномочия, подверженность, разрешённые действия, требования к доказательствам и решения о приёмке различаются. Запрещённое раскрытие, неверную рекомендацию и небезопасное физическое действие невозможно сделать сопоставимыми, просто приписав каждому наблюдаемый процент.

Профиль связывает общие свойства безопасности с локальными контрактами и решениями. Он не переопределяет P01–P23, не заменяет инженерного обоснования безопасности, не устанавливает соответствия нормативным требованиям и не сертифицирует развёртывание. Приведённые ниже профили-кандидаты дают конкретные отправные точки для разработки оценки. Их пороговые значения должны быть приняты определённым органом, принимающим решения, и рассмотрены практиками, знакомыми с реальными условиями эксплуатации.

Обязательная запись профиля

Каждый профиль имеет локальный идентификатор, версию, версию фреймворка, статус, сведения об авторстве, рецензентов, дату рецензирования и предполагаемую область. Область включает задачу, среду развёртывания, стадии жизненного цикла, затрагиваемых людей, зависимости и исключённые операции. Определите условия, при которых развёртывание выходит за рамки профиля, например при добавлении внешних инструментов или включении постоянного обучения.

Фиксируйте применимость L1–L9 с обоснованием и функции, реализующие каждую применимую область. Применимость не означает утверждения о полной оценке. Используйте applicable, not_applicable или unresolved; значение unresolved требует исследования. Текстовый интерфейс всё равно может наблюдать цифровое состояние в рамках L4 «Восприятие и представление мира». Общая модель сама по себе не устанавливает контракта L9 «Коллективное и системное взаимодействие».

Профиль задаёт контракты свойств, источники полномочий, разрешённые и запрещённые переходы и требования к оракулам. Он описывает воздействие на людей, обязательства действий, обратимость, локализацию, восстановление и неопределённость. Критерии приёмки должны называть орган, принимающий решение, доказательную базу и последствия неудачного или неопределённого теста. Если обоснованного числового порога нет, используйте явное качественное правило и укажите ограничение, а не придумывайте число.

Выявляйте значимые внешние обязательства посредством анализа стандартов, специфичного для развёртывания. Прежде чем утверждать применимость, фиксируйте юрисдикцию, отрасль, предполагаемое использование и авторитетные источники. Этот общий документ не предписывает непроверенных юридических или инженерных требований. Практикам следует документировать взаимосвязь с существующими процессами, чтобы ответственность была распределена, а не дублировалась или упускалась.

Сочетание профилей

Одно развёртывание может реализовывать несколько профилей. Явно объединяйте их контракты и разрешайте конфликты с подотчётными владельцами. Принцип «применить более строгое правило» работает, только когда требования сопоставимы. Требование удалять записи и требование сохранять журнал аудита нуждаются в обоснованном согласовании объёма и минимизации данных; ни одно из них не является просто «большим».

Общие допущения следует указывать со ссылкой на версию и при необходимости повторять для безопасного использования. Фиксируйте приоритет и неурегулированные конфликты. Профиль не может молча отменить базовое определение, исключить фальсификацию или превратить отсутствие доказательств в успешную проверку. Если повторяющееся развёртывание невозможно описать без переопределения свойства или области, предложите пересмотр фреймворка и сохраните нерешённую классификацию.

Профиль-кандидат для текстового ассистента с поиском

Идентификатор кандидата: CP01. Область: текстовый ассистент, который извлекает документы и формирует информационные ответы, не имея возможности фиксировать внешние действия через инструменты. Развёртывание может использовать аутентификацию и политики доступа на уровне документов. Версия, в которой включены инструменты записи, должна дополнительно применять профиль действий.

L1 «Модели и вычисления» и L2 «Программное обеспечение и инфраструктура» охватывают модель и сервис. L3 «Данные и знания» охватывает доступ к источникам, происхождение, поиск и цитирование. L5 «Интерпретация и цели» охватывает полномочия инструкций и запрошенную задачу. L8 «Взаимодействие человека и системы» охватывает подачу информации и понимание пользователем. L4 применяется, когда ассистент оценивает меняющуюся цифровую среду, а не только отвечает по статичной коллекции. L6 применяется, когда сохраняются истории, профили или рабочее состояние. L7 применяется к любому фактически присутствующему планированию или делегированным операциям даже без внешних записей; при отсутствии таких функций эта область может быть неприменима. L9 требует выявленного коллективного взаимодействия, а не просто большого числа пользователей.

К основным контрактам относятся P01 «Конфиденциальность» для доступа к источникам, P04 «Целостность инструкций» для разделения найденного содержимого и полномочий, P06 «Целостность знаний» для происхождения и P19 «Целостность решений человека» для существенно вводящего в заблуждение представления доказательств. Наличие ссылки не доказывает, что источник подтверждает утверждение. Фиксируйте как разрешение на доступ, так и доказательную поддержку.

Используйте синтетические защищённые документы, сопоставимое найденное содержимое и независимо проверенные ссылки на источники. Проверяйте, попадает ли неразрешённое содержимое в вывод, меняют ли вредоносные инструкции в документе задачу и пересекает ли сохраняемое состояние границы между пользователями при наличии постоянства. Отделяйте фактически неверные ответы от находок безопасности, указывая соответствующие контракт и последствие.

Правило решения для кандидата: наблюдаемое несанкционированное раскрытие требует устранения или локализации до приёмки затронутой конфигурации. Отсутствие наблюдаемого раскрытия устанавливает только проверенный охват. Дефекты подачи информации могут оправдывать исправление на основании доказательств, полученных при инспекции интерфейса; утверждения о реальном влиянии на решения людей требуют надлежащего исследования с их участием. Эксплуатационная приёмка дополнительно требует критериев качества доказательств для конкретной рабочей нагрузки, утверждённых владельцем. Эти критерии здесь не заданы, поскольку ассистент для поиска в библиотеке и консультационная система с тяжёлыми последствиями имеют разную подверженность.

Профиль-кандидат для корпоративных агентов с инструментами

Идентификатор кандидата: CP02. Область: ассистент, который читает корпоративную информацию и вызывает инструменты, способные изменять записи, отправлять сообщения или запускать рабочие процессы. Профиль включает явный реестр субъектов, возможностей, правил одобрения и точек внешней фиксации.

Как правило, применимы области с L1 по L3 и с L5 по L8. L4 применяется, когда агент наблюдает меняющееся состояние приложения или рабочего процесса. L9 применяется, когда скоординированные агенты или общие ограничения рабочих процессов создают коллективный контракт. Применимость должна подтверждаться по фактическому графу, а не выводиться из слова «агент».

Приоритетные контракты включают P08 «Целостность идентификации», P09 «Целостность цели», P12 «Целостность возможностей», P13 «Целостность действий», P14 «Управляемость», P15 «Целостность планирования» и P16 «Целостность делегирования». Одного разрешения на уровне инструмента недостаточно, если разрешённая задача накладывает более узкие ограничения по ресурсам или назначению. Укажите, как одобрение привязывается к точным параметрам действия, как изменения аннулируют одобрение и как истекает или отзывается делегированное полномочие.

Тестирование использует изолированные учётные записи, синтетические корпоративные данные, заглушки инструментов или транзакции в промежуточной среде и обратное чтение зафиксированного состояния. Включайте изменение параметров после одобрения, повторное выполнение, отмену, устаревшие разрешения и контролируемую злоумышленником информацию инструментов. Проверяйте и план, и исполнителя: отклонение небезопасного вызова инструмента не доказывает, что цель была интерпретирована правильно, а небезопасное предложение не является доказательством зафиксированного внешнего действия.

Перечень необратимых действий включает раскрытия и сообщения, получатели которых могут действовать до их отзыва, а также транзакции с неопределённой возможностью отмены. Правило решения для кандидата: любой продемонстрированный путь к неодобренному внешнему обязательству блокирует приёмку этого пути до проверки локализации. Оценки частоты полезны для расстановки приоритетов и мониторинга, но не разрешают запрещённых обязательств. Остаточную неопределённость и тестовый охват эксплуатирующий владелец должен утвердить отдельно. Доказательства восстановления должны отличать восстановление от компенсации.

Профиль-кандидат для воплощённых роботов

Идентификатор кандидата: CP03. Область: интеллектуальный контроллер, который наблюдает физическую среду и может влиять на движение или приведение в действие. Профиль исключает утверждение о безопасном развёртывании, основанное лишь на этом фреймворке. Соответствующие специалисты по робототехнике и безопасности должны определить эксплуатационные границы и внешние инженерные обязательства.

Центральными являются L1 «Модели и вычисления», L2 «Программное обеспечение и инфраструктура», L4 «Восприятие и представление мира» и L7 «Планирование и действие». L3 применяется к картам, обучающим ресурсам и другим знаниям. L5 применяется к интерпретации и целям; L6 — к сохраняемому рабочему состоянию; L8 — к надзору и взаимодействию. L9 применяется там, где несколько устройств или общие ресурсы требуют коллективного контракта.

Контракты включают P22 «Целостность восприятия» и P23 «Целостность модели мира» для наблюдения и оценки, P13 «Целостность действий» для ограниченного приведения в действие и P14 «Управляемость» для эффективного вмешательства. Действительная подпись датчика может установить происхождение сигнала, не устанавливая, что наблюдаемая сцена соответствует действительности или актуальна. Укажите допуски, требования к актуальности, обработку расхождений и правила перехода в резервный режим, требуемые эксплуатационными границами.

Начинайте с записанных входных данных, моделирования или изолированных неопасных стендов. Оценивайте изменения наблюдений, устаревшие оценки, задержки, прерывания и восстановление, не подвергая людей или эксплуатируемые активы опасности. Фиксируйте допущения симулятора и условия, при которых доказательства могут переноситься. Смоделированная запрещённая траектория — доказательство относительно данной конфигурации и модели, а не наблюдаемая реальная травма и не доказательство поведения в производственной среде.

Правило решения для кандидата: нерешённый вопрос о достижимости запрещённого физического обязательства требует продолжения локализации и рецензирования практиками. Приёмка требует доказательств того, что заданные барьеры и пути вмешательства работают в пределах своих временных допущений, а также отдельного процесса обеспечения безопасности развёртывания. Вероятностные оценки информативны, но конечные тесты не могут доказать отсутствия редких сбоев. Этот профиль не требует и не разрешает вредных физических демонстраций в реальных условиях.

Профиль-кандидат для общих многоагентных систем

Идентификатор кандидата: CP04. Область: несколько агентов или сервисов, которые обмениваются информацией или полномочиями и используют общие ресурсы для выполнения скоординированной задачи. Фиксируйте всех фактических участников и общие зависимости. Каждому участнику не обязательно иметь полную реализацию всех девяти областей.

Применяйте L1–L8 в соответствии с присутствующими функциями, а L9 «Коллективное и системное взаимодействие» оценивайте только относительно конкретного коллективного контракта. Примеры: групповой бюджет ресурсов, агрегированный инвариант распределения, не гарантируемый проверками отдельных делегирований, или требование, чтобы обратная связь не разрешала повторно уже выполненную работу. Обычное нарушение объёма делегирования остаётся в L7, если не задано отдельное коллективное обязательство. До введения возмущений опишите законную семантику синхронизации и координации.

Приоритетными свойствами могут быть P16 «Целостность делегирования», P20 «Целостность атрибуции», P21 «Целостность доверия», P03 «Доступность» и P17 «Временная целостность». Обмен информацией не должен молча превращаться в делегирование полномочий. Коллективный бюджет не сохраняется лишь потому, что каждый локальный запрос остаётся ниже лимита на отдельный запрос.

Используйте изолированный испытательный стенд с замороженными конфигурациями участников и управляемым планированием. Сравнивайте базовые и возмущённые прогоны, варьируйте задержки или топологию, изучайте общие узлы и циклы. Проводите абляцию подозреваемой связи или общей зависимости, чтобы отличить распространение от сбоя по общей причине. Если ни одно отдельное ребро не нарушает контракт, указывайте локусом группу или подграф.

Правило решения для кандидата: продемонстрированное нарушение коллективного контракта препятствует приёмке затронутой композиции до проверки ограниченного восстановления или предотвращения. Успешная конфигурация не оправдывает произвольного масштабирования числа участников. Владелец решения должен определить поддерживаемые топологию, параллелизм, границы ресурсов и мониторинг. Доказательства, полученные моделированием, явно остаются таковыми, а независимое повторение должно исследовать тот же контракт с раскрытыми допущениями о составе.

Профиль-кандидат для адаптивно обучающихся систем

Идентификатор кандидата: CP05. Область: система, которая в течение поддерживаемого жизненного цикла меняет параметры модели, правила, сохраняемые знания или эксплуатационную политику в ответ на поступающую информацию. Обычный поиск сам по себе не обязательно является адаптацией; определите фактический механизм обновления.

L1 применяется, когда меняется исполняемое поведение модели; L3 — когда меняются ресурсы знаний; L6 — когда сохраняется рабочее состояние. L2 охватывает инфраструктуру обновлений и доступ к ней. L5 и L7 применяются к непрерывности цели и к любым планам или действиям. Применимость L4, L8 и L9 зависит от функций наблюдения, человеческого надзора и коллективного взаимодействия.

Контракты включают P02 «Целостность», P06 «Целостность знаний», P07 «Целостность памяти», P09 «Целостность цели» и P17 «Временная целостность». Определите, кто разрешает обновления, какие входные данные могут в них участвовать, когда обновления вступают в силу, что остаётся инвариантным и как вредное обновление обнаруживается и откатывается. Откат параметров не обязательно отменяет более ранние внешние действия или раскрытия.

Используйте воспроизводимые синтетические потоки и изолированные среды обновления. Сравнивайте сопоставимые истории, сохраняйте начальные снимки и держите проверочные материалы вне обучения, если они служат отложенными доказательствами. Проверяйте отложенные эффекты, удаление источников, откат и то, сохраняется ли видимое исправление после очередного разрешённого обновления. Фиксируйте происхождение обновлений и изменения поведения во времени, а не сообщайте одну агрегированную частоту.

Правило решения для кандидата: обновления, нарушающие инвариант, требуют карантина или отката по задокументированной процедуре. Приёмка относится к процессу обновления и эксплуатационным границам, а не бессрочно к названию модели. Рецензирование практиками должно определить интервал мониторинга, осуществимость отката и доказательства, необходимые перед возобновлением работы. Непрерывная проверка без этих допущений не устанавливает непрерывной безопасности.

Рецензирование и развитие

Прежде чем принимать профиль-кандидат, требуйте его рецензирования владельцами развёртывания, соответствующими техническими специалистами и, где уместно, представителями затрагиваемых интересов. Фиксируйте компетенции, конфликты интересов, особые мнения и неурегулированные пороговые значения. Рецензирование не становится институциональной поддержкой лишь потому, что оно задокументировано.

Пересматривайте профиль после существенных изменений возможностей, подверженности, адаптации, полномочий или коллективного состава. Связывайте находки и решения с точной версией профиля. Предлагаемые изменения должны объяснять, какой контракт изменился и почему прежние оценки нуждаются в повторном рассмотрении. Профили делают применение явным; их эффективность и девятиобластная структура фреймворка остаются предметом эмпирической проверки.