В настоящее время Пекин стоит перед непростым выбором – содействовать максимальному развитию информационных технологий внутри страны или же взять прогресс под контроль в интересах национальной безопасности. С учётом нынешних сложностей в реализации технологических обменов с США, Японией и странами Евросоюза, китайский IT-сектор нуждается в серьёзной поддержке со стороны государства. Однако, по мнению руководства Коммунистической партии, регулирование оправдано сохранением стабильности в обществе и эффективным проведением внутренней политики.

Границы для интеллекта

     Стремительное развитие технологий искусственного интеллекта (ИИ) вызывает глобальные изменения в экономике и общественной жизни. Помимо очевидных коммерческих выгод существуют и явные опасности. Так, специальные алгоритмы используются для создания текстов, изображений, звуков и других видов контента. Такие системы часто применяются для сбора данных в сети Интернет, что создаёт проблемы с сохранностью государственной, коммерческой и личной информации, а также соблюдением авторских прав. Кроме того, ИИ в состоянии генерировать и распространять сообщения, в том числе в целях дезинформации и пропаганды. Опасения связаны и с такими новыми явлениями как автоматизированная журналистика и структурирование комментариев в социальных сетях и медиа.

     В августе 2023 года в Китае был принят новый закон по регулированию генеративного искусственного интеллекта. Документ предусматривает серьёзные ограничения в данной сфере и пока не имеет аналогов в мире. В частности, китайским компаниям предписывается выборочно подходить к распространению таких технологий и продуктов, особенно иностранным заказчикам. Существует запрет на использование определённых исходных данных, а также создание материалов, потенциально представляющих угрозу для национальной безопасности КНР. Сокращение поля эвристического поиска, по замыслу, должно предотвратить утечку важной информации, а снижение способностей генеративных программ не позволит создавать контент, выходящий за рамки контроля.

     Проект закона первоначально предусматривал серьёзные ограничения на технологическую сферу в целом, однако после обсуждений было принято решение в пользу более мягкого варианта. Главный аргумент – необходимость развития коммерческого сектора в IT-индустрии для повышения конкурентоспособности китайских компаний на мировом рынке. По мнению властей, необходимо соблюдать баланс между принципами технологического прогресса, общественного блага и государственной безопасности.

     Регулирование генеративного искусственного интеллекта пока будет осуществляться в пробном режиме. Юридическим лицам после принятия нормативного акта даётся три месяца на «очистку» незаконного контента и отбор «доверенных и точных» исходных данных для генерации новых текстовых, изобразительных и других материалов. Кроме того, все информационные продукты, созданные с помощью искусственного интеллекта, должны нести обязательную маркировку. Однако правила работают только для публичных систем ИИ, как будут регламентироваться ведомственные и внутрикорпоративные системы всё ещё не вполне понятно. 

     Вероятно, ограничения не коснутся областей применения ИИ, не связанных с созданием контента и автоматизированным поиском. Наиболее перспективные – использование нейронных сетей в управлении финансами, в том числе функционировании платёжных систем, управление личными финансами и инвестициями, алгоритмическая торговля, исследования рынка и заёмщиков, автоматизация производства и медицина. Скорее всего, Пекин будет активно внедрять технологии искусственного интеллекта в государственном управлении, работе полиции и спецслужб, а также в военном деле.

Прогресс или стабильность?

     Китай первым в мире стал ограничивать развитие искусственного интеллекта. С 2020 года власти страны активно применяют широкий ассортимент технологий для защиты данных и предотвращения распространения нежелательной информации. Данные меры стали объектом критики со стороны представителей бизнеса, в том числе сооснователя компании Alibaba Джека Ма, которые считают такую государственную политику причиной грядущего «технологического краха». По мнению руководства крупных частных компаний, ограничения на внедрение инноваций неизбежно пагубно отразятся на экономике страны и благосостоянии населения. Вкупе с введёнными США мерами экспортного контроля на полупроводники, всё это может замедлить развитие IT-сектора в КНР. Попытки стимулировать национальных производителей через финансовую поддержку и предоставление доступа к вычислительным мощностям госкомпаний пока не продемонстрировали успехов.

     Тенденция по искусственному торможению властями технологического развития приобретает долговременный и необратимый характер. Несмотря на потенциальное влияние на целую отрасль, закон об ограничении генеративного искусственного интеллекта, может снизить риски для системы государственного управления и общественной безопасности. Речь идёт о предотвращении вреда для граждан с точки зрения сохранности персональных данных и доступа к опасной информации. Однако Пекин, по всей видимости, готов пожертвовать прогрессом ради устойчивости политической системы. Конечно, меры воздействия на фирмы, работающие на внутреннем рынке КНР, могут быть слабее, а кроме того, государственные компании получат серьёзные преимущества перед частными.

     Нельзя исключать того, что централизация исследований и практической деятельности в сфере ИИ будет способствовать прогрессу в ряде областей. Например, автоматизация уже широко применятся для контроля над гражданами, в оперативно-розыскных мероприятиях и пенитенциарных учреждениях. Академия военных наук Китая также служит своеобразным хабом по объединению усилий различных компаний по внедрению искусственного интеллекта в системы военного планирования, администрирования и управления операциями, войсками и отдельными боевыми единицами.

     Для сравнения, в США пока сохраняется полная свобода действий в публичном применении технологий искусственного интеллекта. Однако и в Вашингтоне звучат опасения, что с помощью ИИ, например, возможно нарушить ход предстоящих президентских выборов 2024 года, особенно в условиях отсутствия нормативного регулирования отрасли. Ряд американских политиков полагают, что Китай через разработку стандартов в сфере искусственного интеллекта способен вырваться вперёд в ряде важных направлений, в том числе создании альтернативной реальности для широких слоёв общественности через управление потребляемой информации.

     Тревогу в США вызывает и свобода Пекина от моральных ограничений по созданию машин и программ с социальным интеллектом и самосознанием, несмотря на отсутствие пока технологических возможностей и понятной сферы применения. Без ответа остаётся и вопрос – как собирается Пекин преодолеть процесс естественной деградации AI при ограничении объёма и цензурировании потока исходных данных. Проблему представляет и падение качества контента, с чем уже столкнулась компания-правообладатель ChatGPT на примере массового использования нейросетью потоков TikTok как наиболее доступного источника. Однако пока что любые нововведения в сфере IT в Китае неизменно порождают на Западе конспирологические теории в духе «терминатора» и «матрицы».