США проигрывают гонку за искусственный интеллект

По мнению группы экспертов под председательством бывшего генерального директора Google Эрика Шмидта, Соединенные Штаты совершенно не готовы к эпохе искусственного интеллекта (ИИ, AI).

Комиссия национальной безопасности по ИИ (National Security Commission on AI) предупредила в своем недавно вышедшем 756-страничном отчете, что Китай вскоре может заменить США в качестве мировой «сверхдержавы в области ИИ», и заявила, что крайне необходимо учитывать ещё и серьезные военные последствия.

«Америка не готова защищаться или соревноваться в эпоху искусственного интеллекта», - написали Эрик Шмидт (Eric Schmidt) и вице-председатель Боб Уорк (Bob Work), который ранее был заместителем министра обороны США. «Это жестокая реальность, с которой нам придется столкнуться».

Комиссия начала вести обзор в марте 2019 года, и это ее окончательный отчет для президента и Конгресса. Комиссия из 15 членов состоит из технологов, специалистов по национальной безопасности, руководителей предприятий и ведущих учёных. Среди них новый следующий генеральный директор Amazon Энди Ясси (Andy Jassy), генеральный директор Oracle Сафра Кац (Safra Catz), главный научный директор Microsoft Эрик Хорвиц (Eric Horvitz) и глава Google Cloud AI Эндрю Мур (Andrew Moore).

Шмидт и Уорк заявили, что в отчете представлена ​​«стратегия защиты от угроз ИИ, ответственного использования ИИ для национальной безопасности и победы в более широкой технологической конкуренции во имя нашего процветания, безопасности и благополучия».

Они предупреждают, что системы ИИ будут использоваться в целях «погони за властью» и что «ИИ не будет сущестовать лишь в пространстве сверхдержав или в сфере научной фантастики».

В докладе содержится призыв к президенту Джо Байдену, дабы отвергнуть поступающие вызовы по поводу глобального запрета на использование автономного оружия на базе ИИ, заявив, что Китай и Россия вряд ли будут придерживаться каких-либо договоренностей в этой сфере.

«Мы не сможем защититься от угроз с использованием ИИ без повсеместных возможностей ИИ и новых парадигм ведения войны», - писали Шмидт и Уорк.

Тысячи исследователей искусственного интеллекта и программистов подписали открытое письмо, которое было опубликовано в 2015 году, с призывом запретить наступательное автономное оружие с использование AI.

«Технология искусственного интеллекта достигла точки, когда развертывание таких систем - практически, если не юридически - возможно в течение нескольких лет, а не десятилетий, и ставки очень высоки: автономное оружие было описано как третья революция в военном деле после пороха и ядерного оружия, - говорится в письме, которое также подписали генеральный директор Tesla Илон Маск, соучредитель Apple Стив Возняк, генеральный директор Twitter Джек Дорси и покойный ученый Стивен Хокинг.

Тоби Уолш (Toby Walsh), профессор искусственного интеллекта в Сиднейском университете, сказал CNBC, что с момента публикации письма опасность только «стала ближе и серьезнее». «Автономное оружие необходимо регулировать», - сказал он.

Future of Life Institute (Институт будущего жизни), некоммерческий исследовательский институт в Бостоне в штате Массачусетс, заявил в прошлом месяце, что у ИИ есть много положительных военных применений, но «делегирование решений о жизни и смерти автономным системам оружия не входит в их число».

Институт указал, что автономные дроны могут использоваться для разведывательных миссий, чтобы не подвергать войска опасности, в то время как ИИ также может использоваться для питания оборонительных противоракетных орудий, которые обнаруживают, нацеливаются и уничтожают входящие угрозы без участия человека. «Ни одно из приложений не предполагает, что машина выбирает и атакует людей без разрешения оператора», - говорится в сообщении.

Инженер по машинному обучению Майкл Лавелль (Michael Lavelle) сказал CNBC, что необходим международный запрет на оружие для принятия решений с помощью ИИ, аналогично конвенции о химическом оружии.

Самим Вагнер (Samim Wagner), исследователь искусственного интеллекта в Берлине, видит эти вещи по-другому. Он сказал, что оружие на базе искусственного интеллекта и роботы-убийцы сделают современное оружие еще более смертоносным.

Он считает, что использование ИИ-оружия является жесточайшим безумием, и что все это знают, но сотрудники аналитических центров от Вашингтона до Пекина уверяют всех, что это «прогресс и необходимость».

Он добавил: «Настоящая дискуссия о том, как ИИ может способствовать миру во всем мире - это то, что действительно необходимо, но вы определенно не найдете этого в повестке дня оперативников Пентагона или миллиардеров разведывательных служб, таких как, например, Эрик Шмидт, во всем мире».

Китай заявил, что он хочет стать мировым лидером в области ИИ к 2030 году. Авторы отчета заявили, что жизненно важно, чтобы США сделали все возможное, чтобы исключить возможность для Поднебесной сделать это.

«Мы должны выиграть соревнование по искусственному интеллекту, которое усиливает стратегическое соперничество с Китаем», - заявили Шмидт и Уорк. «Планы, ресурсы и прогресс Китая должны волновать всех американцев. Мы серьезно относимся к стремлению Китая превзойти Соединенные Штаты в качестве мирового лидера в области ИИ в течение десятилетия».

Они добавили, что использование искусственного интеллекта в Китае является «пугающим прецедентом для всех, кто дорожит личной свободой».

Комиссия призывает правительство США более чем вдвое увеличить расходы на исследования и разработки в области ИИ до $32 млрд в год к 2026 году.

Она также предлагает создать новый орган, чтобы помочь президенту руководить более широкой политикой США в области ИИ, смягчить иммиграционные законы для талантливых экспертов по ИИ, создать новый университет для обучения государственных служащих, владеющих цифровыми технологиями, и ускорить внедрение новых технологий в спецслужбах США.

В отчете также содержится предупреждение о том, что США необходимо делать как можно больше, чтобы полагаться на собственные компьютерные чипы, и об опасностях такой зависимости от тайваньской TSMC.

«Микроэлектроника - основа всего ИИ, и Соединенные Штаты больше не производят самые сложные микросхемы в мире», - писали Шмидт и Уорк. «Учитывая, что подавляющее большинство новейших чипов производится на одном заводе, удаленном от нашего основного стратегического конкурента всего на 110 морских миль, мы должны переоценить значение устойчивости и безопасности цепочки поставок».