Изоляция ИИ: угрозы и последствия

Опасный путь изоляции ИИ: непредвиденные последствия ограничения иностранного ИИ

Стремительное развитие искусственного интеллекта (ИИ) спровоцировало глобальную гонку за доминирование, в которой страны соперничают за использование его преобразующего потенциала. На фоне этой конкурентной борьбы опасения по поводу национальной безопасности привели к призывам ограничить доступ к иностранным технологиям ИИ. Однако политикам следует проявлять крайнюю осторожность. Хотя соблазн защиты национальных интересов посредством запрета силен, непредвиденные последствия таких действий могут быть далеко идущими, подавляя инновации и потенциально подрывая саму безопасность, которую эти меры призваны защитить.

Компромисс в области инноваций: палка о двух концах

Наиболее значительной жертвой любого широкого запрета на иностранные технологии ИИ является потенциал для инноваций. Хотя заявленная цель может заключаться в том, чтобы не допустить ненадежный ИИ, фактическим результатом может стать изоляция инновационной экосистемы Соединенных Штатов, которая потенциально превзойдет даже ограничения, введенные Китаем. Эти запреты, часто задуманные широкими мазками, как правило, оказывают более широкое влияние, чем предполагалось изначально, ограничивая доступ к жизненно важным технологиям и одновременно подавляя динамику рынка и совместные усилия.

По меньшей мере, такое технологическое разобщение уменьшит динамизм американского рынка, устранив благотворное давление иностранной конкуренции. Преимущества международного соперничества уже очевидны для американских компаний, занимающихся ИИ. В условиях ограничительного режима ИИ этот мощный стимул исчезнет, что потенциально приведет к замедлению прогресса.

Помимо ослабления рыночных сил, запрет на иностранный ИИ еще больше затруднит инновации, остановив перекрестное опыление технологических достижений. Доступ к разнообразным технологиям позволяет американским инженерам свободно экспериментировать, учиться и интегрировать ценные инновации со всего мира. В секторе ИИ США, который долгое время занимал доминирующее положение, эта динамика может быть недооценена. Однако, если американская промышленность отстанет, восстановление лидерства вполне может зависеть от этого беспрепятственного обмена технологическими идеями.

Для тех, кто находится на переднем крае инноваций, доступ к иностранному ИИ может иметь огромное значение. Независимо от того, сохранят ли Соединенные Штаты свое лидерство на рынке ИИ, международные модели служат важнейшим источником обучения, вдохновения и новых идей. Если Соединенные Штаты когда-либо откажутся от своей лидирующей позиции, свобода изучения и адаптации передовых систем может стать абсолютно необходимой для нашей способности восстановить позиции. Политики, которые рискуют ввести запрет, рискуют закрепить конкурентное преимущество иностранных организаций.

Последствия для кибербезопасности: ослабленная защита

Ограничение доступа к китайскому ИИ также несет в себе риск подрыва кибербезопасности. Системы ИИ все чаще наделяются кибервозможностями, играя двойную роль как в наступательных, так и в оборонительных операциях.

Эти разработки указывают на то, что ИИ в скором времени возьмет на себя ключевую роль в развивающемся ландшафте киберугроз. Для исследователей в области безопасности понимание и защита от этих возникающих угроз потребуют глубокого понимания иностранных систем ИИ. Без постоянных, неограниченных экспериментов с этими моделями американские эксперты по безопасности не будут обладать важнейшими знаниями и опытом, необходимыми для эффективного противодействия вредоносным приложениям ИИ.

Для оборонительной позиции частного сектора в области кибербезопасности доступ к иностранным моделям вскоре может стать еще более необходимым.

Если инструменты сканирования на основе ИИ станут отраслевым стандартом, доступ к разнообразным моделям будет иметь первостепенное значение. Каждая модель обладает уникальными сильными и слабыми сторонами, а также областями знаний. Неизбежно, каждая из них выявит разные уязвимости. Комплексная стратегия кибербезопасности в ближайшем будущем может потребовать наличия программного обеспечения для сканирования, оснащенного несколькими системами ИИ. Для американских организаций запрет на китайский или другой иностранный ИИ будет означать слепые зоны для уязвимостей, которые в противном случае можно было бы обнаружить. Со связанными руками американское программное обеспечение станет более уязвимым, что потенциально позволит иностранным конкурентам диктовать глобальный стандарт безопасности.

Управление рисками: взвешенный подход

На быстро развивающемся рынке ИИ доступ к иностранным технологиям остается жизненно важным для поддержания технологического паритета, стимулирования инноваций и обеспечения надежной безопасности. Это не означает, что Соединенные Штаты должны игнорировать риски национальной безопасности, связанные с технологиями, происходящими из враждебных стран. В идеале передовые технологии должны разрабатываться исключительно рыночно-ориентированными, либерально-демократическими странами, освобождая их от обслуживания авторитарных режимов в шпионаже, цензуре или распространении преднамеренных кибернебезопасностей. Однако это не текущая реальность, и тоталитарные и враждебные режимы будут продолжать инвестировать в технологическое развитие. Deepseek, например, действует под надзором китайского правительства, и скептицизм оправдан, учитывая юридические полномочия правительства запрашивать данные компании и его историю преднамеренного внедрения дыр в безопасности в потребительские технологии.

Чтобы сохранить существенные преимущества открытого технологического доступа и одновременно снизить эти риски, официальные лица должны избегать введения широких запретов. Вместо этого политики должны придерживаться менее ограничительного подхода, который сочетает в себе информированное использование, курирование безопасности магазинов приложений и, когда это абсолютно необходимо, узкоспециализированные правила, ориентированные на конкретные, критически важные для безопасности контексты.

Для среднего пользователя текущие риски безопасности, связанные с китайским ИИ, вероятно, незначительны, и наиболее эффективной общей стратегией снижения рисков является информированное использование. Учитывая изобилие выбора и информации о продуктах, доступных на рынке ИИ, пользователи имеют значительную свободу в самообразовании и выборе конкретных моделей, которые соответствуют их индивидуальным потребностям в безопасности и конфиденциальности. В большинстве случаев пользователи могут и будут по умолчанию использовать американские модели. Однако, когда они хотят поэкспериментировать с иностранными альтернативами, им должно быть разрешено это сделать. В ситуациях, когда самообразования и выбора может быть недостаточно, курирование магазина приложений может служить основополагающим средством защиты. Ведущие магазины приложений уже активно сканируют предложения на предмет очевидных проблем с безопасностью и, при необходимости, удаляют небезопасное программное обеспечение.

В тех случаях, когда китайские или иностранные системы ИИ представляют действительно неприемлемые риски, политики должны тщательно адаптировать правила к этим конкретным контекстам. Например, особо конфиденциальные федеральные данные не должны обрабатываться китайским ИИ. Примером такого подхода, соответствующим масштабу, является ‘No Deepseek on Government Devices Act’, который ограничит использование Deepseek в федеральных системах. Эта нормативная модель должна служить руководством для аналогичных начинаний. Правила должны быть исключением, а не правилом, но, когда они необходимы, они должны быть контекстно-зависимыми, чтобы избежать ненужного ограничения общей свободы использования и экспериментов.

Путь вперед: баланс между безопасностью и открытостью

Deepseek и другие китайские технологии ИИ, несомненно, заслуживают пристального внимания и скептицизма, учитывая геополитическую напряженность и противоречивые ценности. Тем не менее, любой всеобъемлющий запрет пожертвует не только общей свободой использования, но и важнейшим динамизмом рынка, возможностями для инноваций и преимуществами в области кибербезопасности. Придерживаясь взвешенного подхода, который отдает приоритет информированному использованию, курированию магазинов приложений и, когда это абсолютно необходимо, узконаправленному регулированию, Соединенные Штаты могут сохранить технологическую открытость, которая необходима как для безопасности, так и для глобального лидерства.

Чтобы подробнее остановиться на конкретных моментах:

1. Нюансы динамизма рынка:

Понятие “динамизм рынка” выходит за рамки простой конкуренции. Оно охватывает всю экосистему инноваций, включая:

• Скорость инноваций: Иностранная конкуренция действует как катализатор, заставляя отечественные компании внедрять инновации более быстрыми темпами, чтобы сохранить свое конкурентное преимущество.
• Разнообразие подходов: Различные компании и исследовательские группы, как отечественные, так и зарубежные, будут изучать различные подходы к решению проблем ИИ. Это разнообразие ведет к более богатому пулу идей и потенциальных прорывов.
• Привлечение талантов: Динамичная и открытая экосистема ИИ привлекает лучшие таланты со всего мира, что еще больше способствует инновациям.
• Потоки инвестиций: Здоровая конкурентная среда привлекает инвестиции, обеспечивая ресурсы, необходимые для исследований и разработок.

Ограничение доступа к иностранному ИИ подавит эти аспекты динамизма рынка, что потенциально приведет к менее инновационному и менее конкурентоспособному сектору ИИ США.

2. Специфика технологического перекрестного опыления:

“Технологическое перекрестное опыление” - это не просто копирование идей. Оно включает в себя:

• Понимание различных архитектур: Изучение того, как устроены иностранные модели ИИ, может дать представление об альтернативных архитектурах и подходах, которые американские исследователи, возможно, не рассматривали.
• Выявление новых методов: Иностранные модели ИИ могут использовать уникальные алгоритмы или методы обучения, которые могут быть адаптированы и улучшены американскими исследователями.
• Сравнительный анализ и оценка: Сравнение производительности американских и иностранных моделей ИИ в различных задачах обеспечивает ценные ориентиры и помогает определить области для улучшения.
• Вдохновение и творчество: Знакомство с различными подходами может породить новые идеи и вдохновить на творческие решения сложных проблем ИИ.

Ограничивая доступ к иностранному ИИ, США лишают себя этих ценных возможностей для обучения.

3. Кибербезопасность: помимо защитных мер:

Последствия ИИ для кибербезопасности не ограничиваются защитными мерами. ИИ также можно использовать для:

• Наступательных киберопераций: Инструменты на основе ИИ могут автоматизировать обнаружение уязвимостей, разработку эксплойтов и выполнение кибератак.
• Анализа угроз: ИИ можно использовать для анализа огромных объемов данных для выявления возникающих угроз и прогнозирования будущих атак.
• Обмана и дезинформации: ИИ можно использовать для создания реалистичного поддельного контента, включая текст, изображения и видео, с целью распространения дезинформации или манипулирования общественным мнением.

Понимание того, как иностранные противники используют ИИ в этих областях, имеет решающее значение для разработки эффективных контрмер.

4. Важность информированного использования:

“Информированное использование” - это не просто чтение описаний продуктов. Оно включает в себя:

• Понимание рисков: Пользователи должны знать о потенциальных рисках безопасности и конфиденциальности, связанных с использованием любой системы ИИ, независимо от ее происхождения.
• Оценка источника: Пользователи должны учитывать репутацию и надежность компании или организации, разработавшей систему ИИ.
• Чтение политик конфиденциальности: Пользователи должны внимательно изучать политики конфиденциальности систем ИИ, чтобы понять, как их данные будут собираться, использоваться и передаваться.
• Использование надежных паролей и методов обеспечения безопасности: Пользователи должны следовать основным рекомендациям по кибербезопасности, таким как использование надежных паролей и включение двухфакторной аутентификации, при использовании систем ИИ.
• Постоянное информирование: Пользователи должны быть в курсе последних новостей и рекомендаций по безопасности и конфиденциальности ИИ.

Предоставление пользователям этих знаний является важнейшей первой линией защиты.

5. Курирование магазина приложений: необходимая подстраховка:

Курирование магазина приложений обеспечивает дополнительный уровень защиты за счет:

• Проверки приложений на наличие уязвимостей безопасности: Магазины приложений могут сканировать приложения на наличие известных уязвимостей безопасности до того, как они станут доступны пользователям.
• Удаления вредоносных приложений: Магазины приложений могут удалять приложения, которые признаны вредоносными или нарушают их условия обслуживания.
• Предоставления отзывов и оценок пользователей: Отзывы и оценки пользователей могут помочь информировать пользователей о качестве и надежности приложений.
• Обеспечения соблюдения стандартов безопасности: Магазины приложений могут обеспечивать соблюдение стандартов безопасности для разработчиков, требуя от них внедрения определенных мер безопасности в своих приложениях.

Этот процесс курирования помогает создать более безопасную среду для пользователей, чтобы экспериментировать с технологиями ИИ.

6. Узконаправленное регулирование: исключение, а не правило:

Регулирование следует использовать экономно и только в случае крайней необходимости. Когда оно требуется, оно должно быть:

• Целевым: Правила должны быть сосредоточены на конкретных рисках и конкретных контекстах, а не на широких запретах.
• Пропорциональным: Правила должны быть соразмерны риску, который они призваны устранить.
• Основанным на доказательствах: Правила должны основываться на убедительных доказательствах вреда, а не на спекуляциях или страхе.
• Регулярно пересматриваемым: Правила должны регулярно пересматриваться, чтобы убедиться, что они по-прежнему необходимы и эффективны.
• Прозрачным: Процесс разработки и внедрения правил должен быть прозрачным и открытым для общественного обсуждения.

Такой подход гарантирует, что правила не будут излишне подавлять инновации или ограничивать свободу пользователей и исследователей. ‘No Deepseek on Government Devices Act’ представляет собой хорошую модель.
Тщательно учитывая эти факторы и применяя взвешенный подход, Соединенные Штаты могут ориентироваться в сложном ландшафте разработки ИИ и сохранять свои лидирующие позиции, одновременно защищая свою национальную безопасность. Ключевым моментом является достижение баланса между открытостью и безопасностью, стимулированием инноваций при одновременном снижении рисков.