Информационная безопасность

Новый этап кибервойны: техногиганты объединяют усилия, чтобы противостоять хакерам с помощью ИИ

Крупнейшие IT-компании решили заранее принять защитные меры на новом этапе кибервойны, когда уязвимости в коде выявляют уже не люди, а очень мощные модели искусственного интеллекта. С этой целью Amazon Web Services, Anthropic, Apple, Google, Microsoft, NVIDIA и ряд других организаций запустили инициативу Project Glasswing. Она должна помочь защитить важное программное обеспечение до того, как подобные инструменты получат широкое распространение и попадут в руки злоумышленников. Об этом сообщил SecurityLab.

Внутренние испытания новой модели Anthropic под названием Claude Mythos Preview показали, что в выявлении и эксплуатации программных уязвимостей она превосходит почти всех людей, за исключением самых сильных специалистов. По данным компании, модель уже обнаружила тысячи серьезных проблем в широко используемых системах, в том числе в крупных операционных системах и веб-браузерах. Это серьезный тревожный сигнал для отрасли: инструменты такого уровня уже перестали быть теоретической концепцией и начали влиять на реальную безопасность.

По мнению Anthropic и компаний-партнеров, важная переломная точка уже пройдена. Дело в том, что искусственный интеллект способен резко снизить порог входа для кибератак, расширить их масштаб и повысить сложность. Наибольшее беспокойство вызывает то, что эти возможности могут в скором времени выйти за пределы контролируемой среды и распространиться шире.

Project Glasswing основан на простой, но важной идее: использовать наступательные возможности искусственного интеллекта в целях защиты. Участники проекта применяют модель для выявления уязвимостей, тестирования систем и устранения найденных недостатков до того, как ими воспользуются другие. Основное внимание уделяется поиску уязвимостей, тестам на проникновение, защите конечных точек и дополнительному укреплению программных систем. Важным также признан обмен результатами между участниками — так выводы не останутся внутри одной компании, а укрепят безопасность всей отрасли. Проект также предусматривает финансирование групп, занимающихся безопасностью программного обеспечения с открытым исходным кодом, и сотрудничество с государственными органами. В США официальные лица уже начали обсуждать с Anthropic последствия появления таких моделей.

Помимо Anthropic, AWS, Apple, Google, Microsoft и NVIDIA, к проекту присоединились Broadcom, Cisco, CrowdStrike, JPMorganChase, Linux Foundation, Palo Alto Networks и другие организации. В целом к инициативе привлечено более 40 организаций, поддерживающих критически важную инфраструктуру и открытое программное обеспечение. Anthropic пообещала выделить в рамках проекта до 100 миллионов долларов в виде кредитов на использование своих вычислительных мощностей.

Подпишитесь на ежемесячный дайджест

Раз в месяц — одно короткое письмо с главными фактчеками и разоблачениями фейков. Без спама, отписаться можно в любой момент.

Язык рассылки:

По теме

Подпишитесь на ежемесячный дайджест

Главные проверки месяца — раз в месяц на вашу почту.