Правительства не имеют большого опыта в освоении новых технологий. Но сложная, быстро развивающаяся область искусственного интеллекта вызывает юридические проблемы, вопросы национальной безопасности и гражданских прав, которые нельзя игнорировать. Европейский союз достиг предварительной сделки по радикальному закону, который наложит ограничения на технологию; в Китае ни одна компания не может производить услуги искусственного интеллекта без соответствующих разрешений. США все еще работают над своим подходом к регулированию. Пока Конгресс рассматривает законодательство, некоторые американские города и штаты уже приняли законы, ограничивающие использование ИИ в таких областях, как полицейские расследования и прием на работу, а президент Джо Байден поручил правительственным агентствам проверять будущие продукты ИИ на предмет потенциальных рисков для национальной или экономической безопасности.
1. Почему ИИ нуждается в регулировании?
Системы, основанные на искусственном интеллекте, которые уже используются в таких разнообразных продуктах, как зубные щетки и дроны, потенциально способны произвести революцию в отраслях от здравоохранения до логистики. Но замена человеческого суждения машинным обучением сопряжена с рисками. Даже если главная проблема — быстрообучающиеся системы искусственного интеллекта, выходящие из строя и пытающиеся уничтожить человечество, — остается в сфере фантастики, уже есть опасения, что боты, выполняющие работу за людей, могут распространять дезинформацию, усиливать предвзятость, искажать целостность тестов и нарушать конфиденциальность людей. Зависимость от технологии распознавания лиц, использующей искусственный интеллект, уже привела к тому, что людей ложно обвиняют в преступлениях. Поддельная фотография искусственного интеллекта со взрывом возле Пентагона распространилась в социальных сетях, ненадолго подтолкнув американские акции к падению. Google, Microsoft Alphabet, IBM и OpenAI призвали законодателей ввести федеральный надзор за ИИ, который, по их словам, необходим для гарантии безопасности.
2. Что было сделано в США?
Исполнительный указ Байдена об искусственном интеллекте устанавливает стандарты безопасности и защиты частной жизни и основывается на добровольных обязательствах, принятых более чем десятком компаний. Члены Конгресса проявили большой интерес к принятию законов об искусственном интеллекте, которые были бы более действенными, чем усилия Белого дома, но основополагающая стратегия еще не выработана. Два ключевых сенатора заявили, что приветствовали бы законодательство, устанавливающее процесс лицензирования сложных моделей ИИ, независимое федеральное ведомство по надзору за ИИ и ответственность компаний за нарушение неприкосновенности частной жизни и гражданских прав. Среди предложенных на данный момент законопроектов с более узкой направленностью один запретит правительству США использовать автоматизированную систему для запуска ядерного оружия без участия человека; другой потребует, чтобы изображения, созданные искусственным интеллектом, в политической рекламе были четко обозначены. По меньшей мере 25 штатов США рассмотрели законодательство, связанное с искусственным интеллектом, в 2023 году и 15 приняли законы или резолюции, согласно Национальной конференции законодательных органов штатов. Предлагаемое законодательство направлено на ограничение использования ИИ при принятии решений о трудоустройстве и страховании, здравоохранении, подсчете голосов и распознавании лиц в общественных местах, среди прочих целей.
3. Что сделал ЕС?
В декабре ЕС достиг предварительной договоренности о том, что может стать наиболее всеобъемлющим регулированием ИИ в западном мире. Это установило бы гарантии в отношении использования искусственного интеллекта, который считается наиболее потенциально манипулятивным по отношению к общественности, такого как сканирование лиц в режиме реального времени. Разработчики моделей ИИ общего назначения будут обязаны сообщать подробную сводку данных, используемых для обучения их моделей, согласно документу ЕС, просмотренному Bloomberg. Высокопроизводительные модели, такие как GPT-4 от OpenAI, будут подпадать под действие дополнительных правил, включая отчетность о потреблении энергии и настройку защиты от хакеров.Законопроект все еще должен быть официально одобрен государствами-членами ЕС и парламентом ЕС. Компаниям, нарушающим правила, грозят штрафы в размере до 35 миллионов евро (37,7 миллиона долларов) или 7% от общемировой выручки, в зависимости от нарушения и размера компании.
4. Что сделал Китай?
15 августа вступил в силу набор из 24 правительственных рекомендаций, нацеленных на генеративные сервисы искусственного интеллекта, такие как ChatGPT, которые создают изображения, видео, текст и другой контент. В соответствии с этими руководящими принципами контент, созданный искусственным интеллектом, должен иметь надлежащую маркировку и соответствовать правилам конфиденциальности данных и интеллектуальной собственности. Отдельный набор правил, регулирующих алгоритмы с помощью искусственного интеллекта, используемые технологическими компаниями для рекомендации видео и другого контента, вступил в силу в 2022 году.
5. Что говорят компании?
Ведущие технологические компании, включая Amazon.com Alphabet, IBM и Salesforce обязались следовать добровольным стандартам прозрачности и безопасности администрации Байдена, включая проведение внутренних и внешних тестов новых продуктов ИИ перед их выпуском. В сентябре Конгресс вызвал технологических магнатов, включая Илона Маска и Билла Гейтса, чтобы дать рекомендации относительно усилий по созданию режима регулирования. Компании беспокоит степень, в которой правила США могут применяться к разработчикам продуктов искусственного интеллекта, а не только к их пользователям. Это отражает дебаты в Европе, где Microsoft в документе с изложением позиции утверждала, что крайне важно сосредоточиться на реальных вариантах использования ИИ, поскольку компании не могут “предвидеть весь спектр сценариев развертывания и связанных с ними рисков”.
6. Почему усилия США находятся в центре внимания?
Поскольку американские технологические компании и специализированные микрочипы американского производства находятся на переднем крае инноваций в области искусственного интеллекта, лидеры США имеют особое влияние на то, как осуществляется надзор в этой области. Многие участники заседаний Сената подчеркивали, что США должны играть ведущую роль в формировании глобального управления ИИ, а некоторые ссылались на достижения Китая в этой области как на особую проблему. Критики выразили обеспокоенность по поводу того, что руководители технологических компаний могут оказывать слишком большое влияние на законодательство, создавая форму контроля со стороны регулирующих органов, которая может усилить власть нескольких крупных компаний и помешать усилиям так называемых организаций с открытым исходным кодом по созданию конкурирующих платформ искусственного интеллекта.