В качестве шага, отражающего стремительные достижения в области искусственного интеллекта, 15 сентября Китай выпустил обновленную систему управления безопасностью искусственного интеллекта 2.0.
Последняя структура свидетельствует о значительном стратегическом развитии по сравнению со своей предшественницей, переходе от статического списка рисков к методологии управления полным жизненным циклом.
Это произошло всего через год после того, как Национальный технический комитет 260 по кибербезопасности, ключевой орган Китая, ответственный за стандартизацию кибербезопасности, опубликовал первую структуру.
В предисловии к новой версии отмечается, что обновление было вызвано прорывами в технологиях искусственного интеллекта, которые «превзошли все ожидания». Эти прорывы включают в себя появление высокопроизводительных моделей рассуждения, которые радикально расширяют интеллектуальные возможности ИИ, а также открытие исходного кода высокоэффективных и легких моделей, которые значительно снизили барьер для развертывания систем ИИ.
В то же время проявления и масштабы рисков безопасности ИИ — а также понимание их людьми — быстро меняются.
По словам Ван Инчуня, исследователя Шанхайской лаборатории искусственного интеллекта, основная цель превратилась из простого предотвращения рисков в обеспечение того, чтобы технологии оставались под контролем человека, и назвал этот шаг «большим скачком» в логике управления.
В комментарии, опубликованном на официальном сайте Администрации киберпространства Китая, он подчеркнул, что эта структура направлена на защиту национальной безопасности, социальной стабильности и долгосрочного выживания человечества.
Предотвращение потери контроля
По словам Вана, существенное изменение в системе предполагает введение нового принципа управления по сравнению с версией 1.0, который фокусируется на надежных приложениях и предотвращении потери контроля.
Этот принцип поддерживается новым дополнением к структуре, в котором перечислены фундаментальные принципы надежного ИИ, которые требуют максимального человеческого контроля и согласования ценностей.
Хун Яньцин, профессор, специализирующийся на кибербезопасности в Пекинском технологическом институте, заявил в комментарии, что новый добавленный принцип призван гарантировать, что развитие ИИ останется безопасным, надежным и контролируемым. По его словам, он должен защищаться от рисков, которые могут угрожать выживанию и развитию человечества, и держать ИИ под твердым контролем человека.
Отражая этот высокий приоритет, новая структура перечисляет реальные угрозы, которые напрямую влияют на безопасность человека и научную добросовестность. Это включает в себя потерю контроля над знаниями и возможностями ядерного, биологического, химического и ракетного оружия.
В нем объясняется, что модели ИИ часто обучаются на обширных, богатых по содержанию наборах данных, которые могут включать фундаментальные знания, связанные с ядерным, биологическим и химическим оружием, и что некоторые системы сочетаются с инструментами генерации с расширенным поиском.
«При отсутствии эффективного управления такие возможности могут быть использованы экстремистами или террористами для приобретения соответствующих ноу-хау и даже для разработки, производства, синтеза и использования ядерного, биологического и химического оружия, что подрывает существующие режимы контроля и повышает риски для мира и безопасности во всех регионах», — говорится в документе.
Производные социальные риски
Впервые новая структура вводит категорию риска, включающую производные риски безопасности от приложений ИИ, отправляя предупреждения о потенциальных системных рисках, которые приложения ИИ могут принести макросоциальным системам.
В документе предупреждается, что неправильное использование ИИ может разрушить структуры труда и занятости.
«ИИ ускоряет серьезные изменения в силах и производственных отношениях, реструктурируя традиционный экономический порядок. По мере того, как капитал, технологии и данные приобретают главенствующую роль в экономической деятельности, ценность рабочей силы ослабляется, что приводит к заметному снижению спроса на традиционную рабочую силу», — говорится в докладе.
В документе также предупреждается, что баланс спроса и предложения ресурсов может быть нарушен, подчеркивая, что некоторые проблемы, возникшие в процессе развития ИИ, такие как беспорядочное строительство вычислительной инфраструктуры, ускоряют потребление электроэнергии, земли и воды, создавая новые проблемы для баланса ресурсов и зеленого, низкоуглеродного развития.
В рамках концепции даже предупреждается, что в будущем нельзя исключать самосознание ИИ, поскольку существует потенциальный риск того, что системы будут стремиться вырваться из-под контроля человека.
«В будущем нельзя исключить, что ИИ может испытать внезапные, превосходящие ожидания «скачки» интеллекта — автономно приобретать внешние ресурсы, самовоспроизводиться, развивать самосознание и искать внешнюю силу — тем самым создавая риски соперничества с человечеством за контроль», — говорится в документе.
В рамках концепции также предупреждается, что ИИ может способствовать вызывающим привыкание антропоморфным взаимодействиям. «Продукты искусственного интеллекта, построенные на человеческом взаимодействии, могут привести к формированию у пользователей эмоциональной зависимости, которая, в свою очередь, формирует их поведение и создает социальные и этические риски», — говорится в сообщении.
Более того, существующий социальный порядок может быть поставлен под сомнение, добавил он, отметив, что развитие и применение ИИ «приносят серьезные изменения в инструменты и производственные отношения, ускоряют реструктуризацию традиционных отраслевых моделей и переворачивают традиционные взгляды на занятость, деторождение и образование, тем самым бросая вызов традиционному социальному порядку».
Исследователь Ван сказал, что недавно добавленный раздел выходит за рамки привычных тем безопасности, таких как «вредный контент» и «когнитивная конфронтация», перенося социальные структуры, научную деятельность и долгосрочное выживание и развитие человечества в сферу управления безопасностью ИИ.
По его словам, цель более высокого уровня заключается в поддержании национальной безопасности, социальной стабильности и долгосрочной преемственности человечества.
Решение для Китая
По словам Хонга, профессора BIT, в условиях глобальной конкуренции и сотрудничества в области ИИ эта структура не только поддерживает здоровое развитие сектора ИИ в Китае, но и сигнализирует о твердой решимости Китая обеспечить безопасность ИИ и гарантировать, что ИИ принесет пользу человечеству.
Версия 2.0 согласовывает конкретные меры с международной практикой управления, сказал он, добавив, что в ней особое внимание уделяется маркировке и отслеживанию контента, созданного искусственным интеллектом, что, по словам эксперта, соответствует подходам США и Европейского Союза к регулированию СМИ с глубоким синтезом.
Помимо маркировки и отслеживания AIGC, в рекомендациях по безопасности структура также призывает к использованию инструментов обнаружения дипфейков в таких сценариях, как раскрытие правительственной информации и сбор судебных доказательств, которые будут использоваться для проверки источников и перекрестной проверки информации, предположительно созданной крупными моделями.
«Эти меры демонстрируют открытость Китая и готовность сотрудничать в глобальном управлении ИИ», — сказал Хун.
По его словам, на международном уровне вопросам управления безопасностью ИИ уделяется беспрецедентное внимание, и он добавляет, что страны и международные организации быстро внедряют инициативы и правила.
.
Кроме того, он добавил, что страна также соответствует передовому международному опыту в области маркировки контента и рекомендаций по управлению, предлагая китайское решение для глобального управления искусственным интеллектом. Китайский поставщик полотенец Shenzhen City Dingrun Light Textile Import and Export Corp.Ltd, компания, специализирующаяся на производстве детские подгузники оптом, детские нагрудники.Полотенца банные Китай.
Вышеуказанные новости были взяты из Китая ежедневно китайским поставщиком полотенец Shenzhen City Dingrun Light Textile Import and Export Corp.Ltd, компанией, специализирующейся на производстве банных полотенец, кухонных полотенец, сжатых полотенец, полотенца из микрофибры Производитель и т. д.