В опит да защитят чувствителните федерални данни от потенциални заплахи, породени от противникови нации, особено Китайската народна република (КНР), американските сенатори Джаки Роузен и Бил Касиди представиха законопроект, насочен към DeepSeek, собственост на Китайската комунистическа партия (ККП), и други ИИ технологии, считани за враждебни.
Сенаторите изразиха значителни опасения относно потенциалните рискове за националната сигурност, свързани с DeepSeek. Те посочват китайското законодателство, което задължава DeepSeek да споделя събраните данни с китайското правителство и разузнавателните си агенции, като основна причина за техните опасения. Няколко американски щата и съюзнически нации вече са предприели мерки за блокиране на DeepSeek от правителствените устройства, подчертавайки критичните опасения за сигурността около платформата за ИИ.
Закон за защита срещу чуждестранен враждебен изкуствен интелект
Предложеният двупартиен законопроект, озаглавен „Закон за защита срещу чуждестранен враждебен изкуствен интелект“, има за цел да предотврати използването на DeepSeek от федерални изпълнители за изпълнение на договори с федерални агенции. Законопроектът разширява тази забрана до всяко приложение наследник, разработено от High-Flyer, предотвратявайки използването му във федералните правителствени договори.
Изисквания за отчитане и надзор от Конгреса
Освен това законопроектът предвижда изготвянето на изчерпателен доклад до Конгреса от министъра на търговията на САЩ, изготвен в сътрудничество с министъра на отбраната на САЩ. Този доклад ще се задълбочи в заплахите за националната сигурност и икономическия шпионаж, произтичащи от ИИ платформи, произхождащи от противникови нации, включително Китай, Северна Корея, Иран и Русия.
Сенатор Роузен, демократ от Невада, подчерта важността на защитата на американските данни и правителствените системи от киберзаплахи, произтичащи от чуждестранни противници. Тя заяви, че двупартийният закон ефективно ще предотврати използването на DeepSeek, ИИ платформа, свързана с ККП, от федералните изпълнители при извършване на правителствена работа. Роузен обеща да продължи да работи междупартийно за укрепване на националната сигурност и защита на данните на американците.
Сенатор Касиди, републиканец от Луизиана, подчерта двойствената природа на ИИ като мощен инструмент, който може да бъде използван за полезни цели като подобряване на медицината и образованието. Той обаче предупреди, че в неподходящи ръце ИИ може да бъде превърнат в оръжие. Касиди предупреди, че захранването на чувствителни данни в системи като DeepSeek може да предостави на Китай друго оръжие.
Подробни мандати за отчитане
Предложеното законодателство предвижда, че в рамките на една година от влизането в сила на Закона министърът на търговията, в консултация с министъра на отбраната, трябва да представи подробен доклад пред ключови комисии както в Сената, така и в Камарата на представителите. Тези комисии включват Комисията по въоръжените сили, Комисията по търговия, наука и транспорт и Комисията по енергетика и търговия. Докладът трябва да разгледа заплахите за националната сигурност, породени от платформи за изкуствен интелект, включително големи езикови модели и генеративен ИИ, които са базирани или свързани със страни, предизвикващи безпокойство.
Компоненти на изчерпателния доклад
Законопроектът предвижда няколко критични компонента, които трябва да бъдат включени в изчерпателния доклад. Те включват задълбочен анализ на законите за цензура и възможностите на чужди правителства, особено тези, които могат да имат достъп или да упражняват влияние върху ИИ приложенията.
Ролята на ИИ в пропагандата и дезинформацията
Докладът трябва също така да оцени начините, по които ИИ платформите се използват в момента или биха могли потенциално да бъдат използвани за насърчаване на спонсорирана от държавата пропаганда. Това е особено важно в контекста на противникови нации, които се стремят да подкопаят демократичните институции и да разпространяват дезинформация. Като разберат как ИИ може да бъде превърнат в оръжие по този начин, политиците могат да разработят стратегии за ефективно противодействие на тези заплахи.
Заобикаляне на контрола върху износа
Друг съществен аспект на доклада включва оценката на последиците за националната сигурност от усилията на противникови нации да заобиколят контрола върху износа на САЩ на графични процесори (GPU). GPU са от решаващо значение за развитието на усъвършенствани ИИ модели и всеки опит за придобиването им незаконно представлява значителна заплаха за интересите на националната сигурност на САЩ. Следователно докладът трябва да идентифицира и адресира уязвимостите в системата за контрол върху износа, за да предотврати получаването на достъп до тези критични технологии от противникови нации.
Заплахи за поверителността и сигурността на данните
Докладът трябва да проучи заплахите за поверителността и сигурността на данните, свързани с американски данни, които се въвеждат или подават чрез ИИ приложения. Анализът трябва да разгледа важни опасения, включително как и къде се съхраняват данните, дали на локални сървъри или в рамките на облачна инфраструктура. Той трябва също така да проучи дали тези данни могат да бъдат достъпвани или експлоатирани от чужди правителства или политически организации, особено ККП, и до каква степен данните, получени от САЩ, допринасят за напредъка на чуждестранните ИИ технологии.
Местоположението на съхранението на данни е от решаващо значение, тъй като то пряко засяга нивото на контрол и сигурност, което може да бъде упражнено върху него. Локалните сървъри предлагат по-директен контрол, но изискват значителни инвестиции в инфраструктура и експертен опит. Облачната инфраструктура, от друга страна, осигурява мащабируемост и достъпност, но разчита на мерките за сигурност, приложени от доставчика на облачни услуги.
Риск от икономически шпионаж
Докладът трябва да оцени риска от икономически шпионаж, породен от такъв достъп, включително заплахи за интелектуална собственост, търговски тайни, фирмена информация и други чувствителни или конфиденциални данни.
Икономическият шпионаж включва кражбата на ценна бизнес информация от чуждестранни организации, за да се получи конкурентно предимство. Това може да включва търговски тайни, патенти и други конфиденциални данни, които дават на компаниите стратегическо предимство на пазара. Чрез достъп до американски данни чрез ИИ приложения противникови нации биха могли потенциално да откраднат тази информация и да подкопаят конкурентоспособността на американските бизнеси.
Заплахи за правителствената информация
И накрая, докладът трябва да оцени потенциалната опасност, която този достъп представлява за федералната правителствена информация, включително данни, които влияят върху политически решения или са свързани с правителствени програми. Сигурността на правителствената информация е от първостепенно значение за функционирането на едно демократично общество. Ако противниковите нации могат да имат достъп или да манипулират тези данни, те биха могли потенциално да повлияят на политически решения или да нарушат правителствени програми.
Предишни действия и текущи прегледи
Администрацията на президента Доналд Тръмп, чрез Съвета за национална сигурност, инициира преглед на заплахите за националната сигурност, свързани с DeepSeek, отразявайки опасения, обхващащи множество администрации. Камарата на представителите предприе стъпки за забрана на конгресните офиси да инсталират или изтеглят DeepSeek на работни устройства, което допълнително подчертава рисковете за сигурността, свързани с платформата.
Действия от правителствени агенции
Агенцията за информационни системи на отбраната и Военноморските сили издадоха подобни меморандуми до своя персонал, ограничаващи използването на DeepSeek на правителствени устройства. Тези действия на различни правителствени агенции показват широко разпознаване на потенциалните заплахи, породени от DeepSeek, и съгласувани усилия за смекчаване на тези рискове.
Ограничения на държавно ниво
Тексас, Ню Йорк и Вирджиния вече са приели законодателство, налагащо подобни ограничения за държавните служители и изпълнители, което сигнализира за нарастваща тенденция сред държавите да се справят с опасенията за сигурността, свързани с ИИ платформи от противникови нации. Очаква се други държави да последват примера, което допълнително ще затвърди усилията за защита на чувствителни данни от потенциални заплахи.
ИИ в индустриалната киберсигурност
Според данни, публикувани през октомври от Takepoint Research, развиващият се пейзаж на киберсигурността разкрива, че ползите от ИИ в индустриалната киберсигурност надвишават рисковете за 80 процента от респондентите. ИИ е особено ефективен при откриване на заплахи (64 процента), наблюдение на мрежата (52 процента) и управление на уязвимостите (48 процента), което подчертава нарастващата му важност за подобряване на защитите в рамките на OT (оперативните технологии) среди. Проучването установи, че прекомерната зависимост от ИИ, манипулирането на ИИ системи и фалшивите отрицателни резултати са основни опасения за собствениците на индустриални активи.
Ефективността на ИИ при откриване на заплахи произтича от способността му да анализира големи обеми данни и да идентифицира модели, които могат да показват злонамерена дейност. Системите, задвижвани от ИИ, могат да откриват аномалии и подозрително поведение в реално време, предоставяйки на екипите по сигурността ранни предупреждения за потенциални заплахи.
Наблюдението на мрежата е друга област, в която ИИ се справя отлично. Чрез непрекъснато наблюдение на мрежовия трафик, ИИ системите могат да откриват неоторизирани опити за достъп и други нарушения на сигурността. ИИ може също така да идентифицира уязвимости в мрежовите конфигурации и да препоръча коригиращи действия.
Управлението на уязвимостите включва идентифициране и адресиране на слабостите в системите и приложенията, преди те да бъдат експлоатирани от нападатели. ИИ може да автоматизира процеса на сканиране на уязвимости и да приоритизира усилията за отстраняване въз основа на тежестта на уязвимостите.
Опасения относно прекомерното разчитане и манипулиране
Въпреки че ИИ предлага значителни предимства в индустриалната киберсигурност, съществуват и потенциални рискове, за които трябва да сте наясно. Една от основните опасения е прекомерното разчитане на ИИ. Екипите по сигурността не трябва да стават прекалено зависими от ИИ системите и трябва да поддържат своя експертен опит и ситуационна осведоменост.
Друга опасност е манипулирането на ИИ системи. Противниците могат да се опитат да манипулират ИИ системите, за да избегнат откриването или да ги накарат да вземат некоректни решения. Затова е важно да се прилагат стабилни мерки за сигурност, за да се защитят ИИ системите от подправяне.
Фалшивите отрицателни резултати, когато ИИ системите не успяват да открият действителни заплахи, също са повод за безпокойство. Екипите по сигурността трябва редовно да оценяват работата на ИИ системите и да коригират техните конфигурации, за да сведат до минимум риска от фалшиви отрицателни резултати.