Блогеры с суммарной аудиторией больше 300 млн подписчиков на YouTube запустили кампанию #TeamHuman («Команда людей») с требованием глобально замедлить развитие Искусственного интеллекта. В числе инициаторов — инженер и изобретатель Марк Робер (83 млн подписчиков), студия научной анимации Kurzgesagt (25,6 млн) и игровой блогер Preston (17,9 млн). Главный тезис кампании умещается в одну фразу: «ИИ развивается быстрее, чем мы способны его контролировать».
На сайте teamhuman.org собирают подписи под петицией, а сторонников просят сменить аватарку в соцсетях. По данным AI Weekly, кампанию поддерживает некоммерческий Центр безопасности ИИ (Center for AI Safety), а среди подписантов — нобелевский лауреат Джеффри Хинтон, лауреат премии Тьюринга Йошуа Бенжио, бывший советник президента США по нацбезопасности Сьюзан Райс, консервативный телеведущий Гленн Бек, актер Стивен Фрай и музыкант will.i.am. Требования конкретнее привычных призывов «одуматься». Авторы предлагают отслеживать специализированные ИИ-чипы, чтобы установить «тормоза» на самые мощные системы, заключить международные соглашения об ограничении скорости по образцу договора о нераспространении ядерного оружия и создать глобальный надзорный орган по модели МАГАТЭ.
Для Kurzgesagt эта тема особенно важна. Летом алгоритм YouTube, который продвигает дешёвый контент, созданный нейросетями, по ошибке распознал анимацию студии, нарисованную людьми, как ИИ-видео. В результате один из роликов набрал худшие просмотры на канале с 2013 года. Тогда Kurzgesagt выпустила видео о том, как поток такого контента может «убить» не только отдельные каналы, но и Интернет в целом.
Кампания стартовала в тот же день, когда Дональд Трамп объявил состав «Силы Суперинтеллекта», новой правительственной группы по ИИ. Ее возглавили директор национальной разведки Джей Клейтон, председатель Федеральной торговой комиссии Эндрю Фергюсон, глава Управления кадровой службы Скотт Купор и замминистра войны по исследованиям Эмиль Майкл. The Washington Post прямо связала появление группы с волной призывов к замедлению, но тон Белого дома противоположный. По словам Трампа, задача группы — сделать так, чтобы Америка «продолжала лидировать в мире в области Суперинтеллекта». Купор раньше был управляющим партнером венчурного фонда Andreessen Horowitz, а Майкл не раз выступал против ужесточения регулирования.
Скептики у кампании тоже найдутся. Журналисты уже писали о деньгах, которые движение за безопасность ИИ вкладывает в блогеров. Один из примеров — месячный лагерь под Сан-Франциско с говорящим названием Plzdontkillus («пожалуйста, не убивай нас»), где участникам платят стипендию и требуют выкладывать по видео в день. Физик и научный блогер Сабина Хоссенфельдер рассказала, что ей предлагали спонсорскую интеграцию с предупреждением об экзистенциальной угрозе ИИ и заранее прописанным текстом. Справедливости ради, обратная сторона рынка не меньше: крупные ИТ-компании платят блогерам за рекламу своих ИИ-продуктов, по данным отраслевых изданий, до $600 тыс. за кампанию.
Громче всех с паникерами спорит Дженсен Хуанг. Глава Nvidia называет сценарии конца света безответственными и уверяет, что шанс катастрофы к 2030 году равен нулю. При этом сам рынок «железа», на котором Nvidia зарабатывает, и есть главный рычаг, который предлагают использовать авторы петиции: учет чипов давно обсуждается как самый реалистичный способ контролировать гонку.
Прецедент у кампании есть. Год назад под заявлением о запрете разработки Суперинтеллекта до появления научного консенсуса о его безопасности подписались сотни людей, от принца Гарри до Стива Бэннона, но на работу лабораторий это не повлияло. Теперь на кону аудитория, которая смотрит YouTube каждый день, а у правительственной группы Клейтона есть 120 дней, чтобы подготовить отчет о рисках и возможностях ИИ.
