Гонка ИИ-вооружений. Предупреждения специалистов в области технологий меняют правила игры

Пять лет до утраты контроля

В интервью NBC News основатель Microsoft сделал заявление, которое сложно назвать иначе как тревожным. По словам Билла Гейтса, искусственный интеллект «достаточно мощен, чтобы вызвать события, которые приведут к гибели миллиарда человек». Он подчеркнул: «Никогда еще не существовало оружия столь же мощного, как комбинация людей со злыми намерениями, использующих новейшие ИИ-инструменты».

Важно понимать контекст: Гейтс не просто констатирует угрозу – он призывает к законодательному регулированию. На вопрос о необходимости принятия соответствующих законов он ответил однозначно: «Абсолютно». Более того, он подчеркнул, что «никто не считает, что саморегулирование достаточно» и что правоохранительные органы и политики должны участвовать в обсуждении того, как должны выглядеть меры защиты и мониторинга.

Примечательно, что Гейтс указал на конкретные векторы угроз: кибератаки, нарушение работы финансовых систем и энергосетей, а также помощь в разработке биологического оружия. Это не абстрактные рассуждения, это перечень направлений, где ИИ уже сегодня демонстрирует опасный потенциал.

Практически одновременно с заявлением Гейтса британский Институт Алана Тьюринга опубликовал доклад, который специалисты называют одним из самых серьезных предупреждений за всю историю наблюдений за развитием ИИ. Вывод экспертов института: «Существует реалистичная возможность того, что сверхра­зумные системы ИИ появятся в течение следующих пяти лет, превзойдя человеческие способности практически во всех важных когнитивных задачах». Это не прогноз, а именно возможность, против которой, по словам авторов, необходимо планировать определенные шаги.

Ключевая угроза, по мнению ученых, связана с давлением на механизмы принятия решений. По мере того как ИИ-системы начинают превосходить людей в стратегически важных областях, их скорость и эффективность создают все более сильное искушение делегировать им принятие решений. В докладе прямо говорится: «Если ИИ-системы разрабатывают стратегии, которые институты не могут адекватно оценить, и действуют быстрее, чем организации успевают реагировать, существенный человеческий контроль может исчезнуть».

Кибератаки нового поколения

Эксперты отмечают: ИИ радикально снижает порог входа для киберпреступников и государственных акторов. По данным анализа Deepstrike за 2025 год, 68 % аналитиков по киберугрозам сообщают, что фишинговые атаки, сгенерированные ИИ, стало сложнее обнаружить, чем когда-либо. Количество атак с использованием украденных учетных данных выросло на 703 % во втором полугодии 2024 года.

Возможность использования ИИ для разработки биологического оружия перешла из области фантастики в область реальных опасений. В октябре 2025 года исследователи Microsoft обнаружили, что ИИ способен создавать «zero-day» угрозы в биологии – искусственный интеллект смог разработать токсины, обходящие системы биобезопасности, используемые для предотвращения неправомерного использования ДНК. Исследование показало, что программное обеспечение для проверки последовательностей пропустило более 75 % потенциальных токсинов.

Системы летального автономного оружия перестали быть теоретической проблемой. Дроны и автономные ракетные системы уже существуют, а международное право практически не регулирует их применение. В 2025 году Генеральная Ассамблея ООН подавляющим большинством голосов – 156 государств – поддержала резолюцию, призывающую к срочным действиям по разработке обязывающего международного инструмента. Однако переговоры буксуют.

Дезинформация с использованием ИИ достигла масштабов, которые еще несколько лет назад казались немыслимыми. Количество случаев мошенничества с использованием дипфейков выросло на 2137 % с 2022 года, а точность обнаружения дипфейков человеком составляет всего 24,5 %. В первом квартале 2025 года инцидентов с дипфейками было на 19 % больше, чем за весь 2024 год. Это подрывает саму возможность общества принимать решения на основе достоверной информации.

Проблема: нерешённая и усугубляющаяся

Проблема «выравнивания» – когда цели ИИ не совпадают с человеческими – остается центральной и до сих пор нерешенной. Современные исследования выделяют четыре ключевых принципа выравнивания: робастность, интерпретируемость, управляемость и этичность. Однако, как отмечается в обзорах 2025 года, прогресс в области выравнивания требует перехода от статической оптимизации к разработке систем, чувствительных к развитию и контексту.

Оптимистичный взгляд: выравнивание в принципе разрешимо, но только при условии ограничения целей и тщательного использования структуры задач. Однако в условиях конкурентной гонки между корпорациями и странами такой осторожный подход выглядит скорее исключением, чем правилом.

Гонка вооружений в сфере ИИ – это отдельный фактор катастрофы. Компании и государства конкурируют за первенство, и в этой гонке соображения безопасности отходят на второй план. Показательно, что даже внутри индустрии звучат голоса о необходимости замедления. Соучредитель Anthropic Дарио Амодеи призвал ИИ-компании сбавить темп разработки моделей, предложив трехшаговое решение: допуск внешних оценщиков, установление общих правил безопасности с ограничениями на неконтролируемый прогресс и построение сотрудничества между странами – даже между демократиями и авторитарными режимами.

Однако эти призывы наталкиваются на политическое сопротивление. Так, президент США Дональд Трамп отверг опасения по поводу быстрого развития ИИ как «конспирологию». Такая позиция на высшем уровне власти создает опасный прецедент: пока одни эксперты бьют тревогу, другие отказываются признавать проблему.

Пока не поздно

Здравомыслящие же специалисты подчеркивают, что регулирование должно быть глобальным, а не только национальным – иначе злоумышленники уйдут в юрисдикции с мягким законодательством. Международное право уже формирует основу для таких обязательств: исследователи из Китайского университета Гонконга аргументируют, что государства несут позитивную обязанность по международному праву проактивно принимать регуляторные меры для смягчения экзистенциального риска ИИ.

В беседе с «ДП» программист Асхабали Гаджиев констатирует: цифровой интеллект может развиваться экспоненциально.

«Если система обретает способность к самосовершенствованию, она может стать умнее нас быстрее, чем мы успеем осознать проблему и отреагировать, – говорит собеседник. – Это гипотеза «взрыва интеллекта» – спорная, но не фантастическая. Даже без восстания машин ИИ, контролируемый узкой группой государств или корпораций, может стать инструментом подавления.

Я занимаю позицию осторожного реализма. Утверждать, что ИИ точно захватит мир, – это спекуляция. Утверждать, что риска нет, всё под контролем, – это безответственность. Наиболее разумный подход в том, чтобы признать, что по мере роста возможностей растёт и риск. Важно инвестировать в безопасность ИИ не меньше, чем в его мощь.

Опасность не в том, что ИИ «проснётся» и захочет нас уничтожить. Опасность в том, что мы сами создадим систему, которая будет настолько эффективна в достижении неправильно заданных целей, что у нас не останется возможности её остановить. Это уже не научная фантастика, а инженерная и политическая задача. И решать её лучше сейчас, чем потом», – убежден Гаджиев.

Технология без характера

Все больше экспертов и организаций призывают к созданию международного агентства по безопасности ИИ, аналогичного МАГАТЭ. Предлагается модель «Международного агентства по ИИ» под эгидой ООН, которое объединило бы представителей государств и крупных технологических компаний. Двухпалатная структура МАГАТЭ (ежегодная конференция и Совет из 35 государств) могла бы быть адаптирована для управления ИИ.

Понятно, что технология сама по себе не злая и не добрая – все зависит от того, в чьих руках она окажется и какие цели преследует. Но именно эта банальная истина сегодня приобретает новое прочтение. ИИ отличается от ядерной энергии и биологических исследований не только своей мощью, но и доступностью и скоростью распространения. То, что раньше требовало государственных лабораторий и армий, теперь может быть воспроизведено небольшой группой людей или даже одиночкой.

Так что предупреждение Билла Гейтса и Института Алана Тьюринга – это не паникерство. Это трезвая оценка ситуации, в которой человечество оказалось благодаря собственному технологическому гению. Вопрос не в том, опасен ли ИИ. Вопрос в том, успеем ли мы создать механизмы контроля до того, как станет слишком поздно.