Тот простой факт, что комиссию по ИИ возглавляет бывший генеральный директор Google Эрик Шмидт, должен беспокоить тех, кто заботится о конфиденциальности, подотчетности, прозрачности и личной свободе.В конце января, Комиссия по национальной безопасности по искусственному интеллекту (NSCAI), или Комиссия AI , выпустила проект своего предстоящего доклада Конгресс, отвергая призывы запретить AI-питание автономного оружия, характеризуемые критиками как «роботы - убийц». Хотя Комиссия по ИИ вкратце рассмотрела проблемы конфиденциальности и гражданских свобод, она в конечном итоге призвала Конгресс удвоить исследования и финансирование ИИ ежегодно до 32 миллиардов долларов в год к 2026 году. В отчете также не отмечен явный конфликт интересов между Председателем Комиссии и бывший генеральный директор Google Эрик Шмидт .
Среди противников развития систем наблюдения и полиции на базе искусственного интеллекта - защитники конфиденциальности, обеспокоенные будущим, когда правоохранительные органы будут носить очки с программным обеспечением для распознавания лиц, работающим на секретных алгоритмах искусственного интеллекта.
В проекте отчета рассматриваются проблемы слежки, заявляя: «Ставки на будущее ИИ тесно связаны с продолжающейся борьбой между авторитарными и демократическими политическими системами и идеологиями». Комиссия также отмечает, что наблюдение с помощью ИИ «скоро будет в руках большинства или всех правительств» и «авторитарные режимы будут продолжать использовать распознавание лиц на основе ИИ, биометрию, прогнозную аналитику и слияние данных в качестве инструментов наблюдения и влияния. , и политический контроль ».
Отчет правильно указывает пальцем на авторитаризм Китая и систему слежки, управляемую искусственным интеллектом. Однако проект также пытается изобразить США как «либеральную демократию», которая использует такие технологии в «законных общественных целях…». совместимы с верховенством закона ». Подразумевается, что враги США могут использовать эту технологию в тиранических целях, но США и их союзники будут использовать ИИ только в интересах сохранения свободы.
«Ответственная демократия должна гарантировать, что использование ИИ правительством ограничивается разумными ограничениями, чтобы соответствовать правам и свободам, которые определяют свободное и открытое общество», - говорится в проекте. «Правительство США должно разрабатывать и внедрять технологии на базе ИИ с адекватной прозрачностью, строгим надзором и подотчетностью для защиты от неправомерного использования».
Принимая во внимание чистую монету, эти заявления могут вселять уверенность. К сожалению, мы говорим о правительстве и вооруженных силах США, и эти учреждения не обладают историей прозрачности или подотчетности. Еще большее беспокойство вызывают проекты, в которых упоминается «срочная необходимость» использования ИИ в целях национальной безопасности, особенно против «иностранных и внутренних террористов, действующих в пределах наших границ». Проект призывает Министерство обороны США не преследовать свои цели по борьбе с терроризмом, не обеспечив, чтобы «приложения безопасности ИИ соответствовали основным ценностям личной свободы и равной защиты по закону».
Несмотря на признание проблем конфиденциальности, основная часть проекта отчета была одобрена расширением правительственных и американских военных исследований в области ИИ. Роберт Ворк, бывший заместитель министра обороны и заместитель председателя комиссии, сказал, что комиссия призывает министерство обороны достичь «боевой готовности ИИ» к 2025 году с обучением и обучением военнослужащих. В проекте содержится призыв к министру обороны установить цели готовности ИИ к концу этого года.
Борьба за то, чтобы остановить роботов-убийц
Есть также опасения, что традиционную полицейскую деятельность с участием офицеров-людей можно заменить дронами с дистанционным управлением и офицерами-роботами, управляемыми искусственным интеллектом, которые принимают решения по формуле, неизвестной широкой публике.
Некоторые критики надеялись на полный запрет этой технологии, но комиссия заявила, что, по их мнению, ИИ будет делать меньше ошибок в бою, что приведет к меньшему количеству смертей. Вице-председатель Уорк сказал, что существует «моральный долг хотя бы придерживаться этой гипотезы». Агентство Reuters сообщает, что один из членов комиссии предупредил о «необходимости создания машин, которые быстро реагируют, что может привести к эскалации конфликтов». Группа поддержала идею о том, что только люди должны принимать решения относительно запуска ядерного оружия, но заявила, что запрет на ИИ будет работать против «интересов США» и его будет сложно обеспечить.
Одним из основных сторонников запрета автономного оружия является организация Campaign to Stop Killer Robots , коалиция неправительственных организаций (НПО), созданная в октябре 2012 года для запрета полностью автономного оружия. Они заявляют, что это поможет «сохранить значимый человеческий контроль над применением силы». Организация провела международную кампанию за соглашение, запрещающее так называемых «роботов-убийц». По данным коалиции, 30 стран, 110 НПО и 4500 экспертов по искусственному интеллекту поддерживают их усилия по запрету этой технологии.
Мэри Уэрхэм, координатор кампании «Остановить роботов-убийц», сказала Reuters, что акцент комиссии «на необходимости конкурировать с аналогичными инвестициями, сделанными Китаем и Россией… служит только для поощрения гонки вооружений». Уэрхэм прав в своей оценке, учитывая заявление вице-председателя Уорка о том, что для американских военных является «моральным долгом» проводить исследования ИИ, исходя из предположения, что управляемая ИИ война приведет к меньшим потерям. Такой менталитет почти гарантирует, что оборонные исследования, связанные с ИИ, будут ежегодно финансироваться в размере миллиардов долларов налогоплательщиков.
Электронный информационный центр конфиденциальности борется за то, чтобы заставить Комиссию ИИ предоставить подробную информацию о том, как они приходят к своим выводам, а также стремится к внутреннему общению между членами Комиссии. EPIC дважды выигрывал дело против Комиссии AI, вынуждая Комиссию проводить публичные собрания и раскрывать тысячи страниц записей. EPIC призвала Комиссию по ИИ «посоветовать Конгрессу, как высшему директивному органу страны, установить общегосударственные принципы и гарантии для использования и развития ИИ».
Хотя EPIC удалось раскрыть бесценные данные о работе Комиссии по ИИ, они также предупреждают, что «уже есть признаки того, что разведывательное сообщество США не инвестировало в жизненно важные меры защиты ИИ».
Эрик Шмидт из Google и Rebellion Defense
Комиссия по искусственному интеллекту была создана Конгрессом в 2018 году с целью «обзора достижений в области искусственного интеллекта, связанных с ним разработок в области машинного обучения и связанных технологий» и вынесения политических рекомендаций Конгрессу и президенту. Комиссия обещала прозрачность и подотчетность, но на самом деле большую часть своих заседаний и принятия решений проводила в тайне. Тот простой факт, что комиссию возглавляет бывший генеральный директор Google Эрик Шмидт, должен беспокоить тех, кто заботится о конфиденциальности, подотчетности, прозрачности и личной свободе.
Шмидт известен тем, что был генеральным директором Google с 2001 по 2011 год, однако его роль в Google продолжится до 2020-х годов. Шмидт был исполнительным председателем Google с 2011 по 2015 год, а затем исполнительным председателем материнской компании Google Alphabet Inc. с 2015 по 2017 год. В последнее время Шмидт был «техническим советником» в Alphabet с 2017 по 2020 год.
За это время Google пережил множество кошмаров по связям с общественностью, а именно тот факт, что компания «Big Tech» печально известна тем, что собирает огромные объемы данных от своих пользователей. Было время, когда Google планировал запустить в Китае цензурированную версию своей поисковой системы, которая будет заносить в черный список веб-сайты и поисковые запросы - шаг, который, по словам Эрика Шмидта , поможет Китаю стать «более открытым». Также произошло фиаско Project Maven, когда выяснилось, что Google работает с Пентагоном над разработкой ИИ, который будет анализировать кадры с дронов. После того, как новости о Maven стали мейнстримом, десятки сотрудников уволились в знак протеста, а тысячи подписали петицию с просьбой о выходе Google из проекта. В конце концов Google уступил и объявил, что откажется от Project Maven.
Совсем недавно расследование The American Prospect показало, что Шмидт связан с малоизвестным подрядчиком по ИИ. В отчете отмечается, что во время администрации Обамы представителей Google достаточно часто видели в Белом доме, что некоторые «в шутку называют администрацию Google.gov» , при этом более 250 сотрудников Google переходили из правительства в компанию на протяжении всего президентства Обамы. Шмидт был одним из этих сотрудников Google.
«С официальных позиций он призывал министерство обороны и спецслужбы внедрить больше технологий машинного обучения. Между тем, как венчурный капиталист, он инвестировал миллионы долларов в более чем полдюжины стартапов в сфере национальной безопасности, которые продают те самые технологии обратно правительству », - пишет Prospect.
В частности, Шмидт является одним из основных инвесторов Rebellion Defense, подрядчика по ИИ, через свою фирму Innovation Endeavors. Rebellion заявляет, что его миссия - «усилить миссию национальной обороны с помощью технологий, управляемых ИИ». Компания хвастается, что членами ее команды были «первые сотрудники Netflix, Amazon, Twitter, Google и Microsoft, и многие из них работали государственными служащими в цифровой службе США, цифровой службе обороны и цифровой службе правительства Великобритании ( GDS) ».
Соучредитель и генеральный директор Rebellion Крис Линч перешел из технологического сектора в округ Колумбия в 2015 году, чтобы руководить цифровой службой обороны Пентагона (DDS). В то время как в DDS Линч работал под руководством трех министров обороны, прежде чем уйти в 2019 году, чтобы запустить Rebellion Defense. Переход Линча от крупных технологий к военно-промышленному комплексу и обратно в частный сектор является иллюстрацией продолжающегося вращения двери между частным сектором и государством.
Легкость доступа, которой Шмидт и его коллеги из Google пользовались в годы правления Обамы, похоже, возвращается в первые дни администрации Байдена. The Prospect отмечает, что в ноябре Rebellion получила контракт на создание единой сети обмена данными для ВВС. Вскоре после того, как Байден был объявлен следующим президентом, он начал объявлять о своей переходной команде. В список попали крупные технологические компании, включая Uber, Amazon, Google и относительно неизвестную Rebellion Defense.
Присутствие Эрика Шмидта в Комиссии по ИИ и в качестве основного инвестора в подрядчике ИИ для военных является явным конфликтом интересов. Время, проведенное Шмидтом в Google, и его публичные заявления ясно показали, что он не ценит конфиденциальность. Несмотря на то, что в проекте отчета Комиссии по ИИ на словах говорится о защите конфиденциальности, американцам не следует ожидать, что такие, как Эрик Шмидт или Rebellion Defense, защитят их от растущего призрака автономного оружия на базе ИИ.
Ещё по теме: Техно-Тирания