В феврале 1975 года несколько генетиков собрались в городишке на центральном побережье Калифорнии, чтобы решить, не приведёт ли то, чем они занимаются, к концу света. Они только начинали открывать науку генной инженерии, управления ДНК для создания несуществующих в природе организмов, и они не были уверены, как эти технологии повлияют на здоровье планеты и населяющих её людей. Так что они удалились в убежище под именем Асиломар – именем, ставшим синонимом для правил, выработанных ими на этом собрании – строгая этическая платформа, созданная для того, чтобы биотехнологии не привели к апокалипсису.
Через 42 года ещё одна группа учёных собралась в Асиломаре, чтобы рассмотреть схожую проблему. Но на этот раз угроза была не биологической, а цифровой. В январе лучшие исследователи в области ИИ шли теми же дорогами, обсуждая быстро расширяющуюся область их интересов, и ту роль, которую оно сыграет в судьбе человечества. Конференция была частной – чудовищность темы этого заслуживает – но затем организаторы выпустили несколько видеороликов с докладами, а некоторые готовы были обсудить их личный опыт и пролить свет на то, как исследователи ИИ видят угрозу, исходящую от их собственного поля деятельности.
Да, они обсуждали возможность того, что сверхинтеллект каким-то образом выйдет из-под контроля людей, и к концу месяца организаторы открыли набор правил, подписанных участниками и другими светочами из области ИИ, предназначенными для предотвращения такой антиутопии. Но исследователи в Асиломаре беспокоились и по поводу более срочных проблем: как ИИ повлияет на экономику.
«Одна из причин, по которой я не люблю разговоры по поводу сверхинтеллекта, состоит в том, что они отвлекают от реальности, – говорит Орен Этциони [Oren Etzioni], гендир Алленовского института искусственного интеллекта (AIAI, или AI2), участвовавший в конференции, – как сказал поэт, вместо воображаемых проблем займитесь реальными».
Администрация Трампа обещает вновь сделать Америку великой, вернув в неё традиционные рабочие места на производстве, но специалисты по ИИ не воспринимают это всерьёз. Они знают, что эти рабочие места уже не вернуть – в основном благодаря их собственной работе, которая в будущем уничтожит и множество других рабочих мест. В Асиломаре они рассматривали реальную экономику США, реальные причины исчезновения среднего класса. Проблема не в иммиграции. Проблема не в утекании средств в офшоры или налогах или регулировании. Проблема в технологии.
Разгневанные из-за машин*
[*в оригинале игра слов: «Rage Against the Machines» – прим. перев.]
В США количество рабочих мест на производстве было максимальным в 1979 году, и с тех пор неуклонно уменьшалось. В то же время производство постоянно росло, и сейчас в США производится больше товаров, чем в любой другой стране, кроме Китая. Машины не просто занимают места людей на сборочных линиях, они лучше справляются. И это ещё до того, как надвигающаяся волна ИИ перевернёт множество других секторов экономики. «Меня меньше волнуют сценарии типа Терминатора, – говорил в первый день конференции экономист из МТИ Эндрю Макафи. – С продолжением текущих тенденций люди восстанут гораздо раньше машин».
Макафи указал на новые данные, показывающие резкий спад в количестве создаваемых рабочих мест для среднего класса с 1980-х. Сегодня большинство новых работ находятся либо в самом низу зарплатной шкалы, или в самом верху. Также он утверждал, что эти тенденции можно развернуть, что улучшение образования и усиление акцента на предпринимательство и исследования могут запустить новые двигатели роста, что экономики уже справлялись с ростом новых технологий. Но после его доклада в кулуарах Асиломара многие исследователи предупредили его, что предстоящая революция ИИ устранит гораздо больше работ и гораздо быстрее, чем ему кажется.
Появление беспилотных автомобилей и грузовиков – это только начало. Новые технологии ИИ переизобретут всё, от производства до здравоохранения и Уолл Стрит. Иначе говоря, ИИ угрожает не только тем, кто работает руками. «Несколько светил из данной области подходили ко мне и говорили: „Думаю, ты недооцениваешь эту область. Неправильно оцениваешь скорость изменений“, – говорит Макафи.
Из-за этой угрозы многие теоретики размышляют об идее универсального базового дохода, гарантированного пособия, выплачиваемого правительством каждому, кто лишился работы [на самом деле, просто каждому – прим. перев.]. Но Макафи считает, что это только усилит проблему, поскольку устранит привлекательность предпринимательства и другую активность, способную создавать новые рабочие места с исчезновением старых. Другие рассуждают о психологических эффектах этого процесса. „Универсальный базовый доход не поддерживает чувство собственного достоинства и не защищает людей от скуки и пороков“, – говорит Этциони.
Кроме того, исследователи размышляли и о регулировании ИИ. Некоторые боятся, что после того, как правительство прижмёт иммиграцию – что затормозит то предпринимательство, о котором говорит Макафи – оно перейдёт к ограничениям в автоматизации и ИИ. Это будет бедой как для исследователей ИИ, так и для экономики. Если в США замедлится преобразование ИИ, оно лишь ускорится в других странах, что в результате поставит под ещё большую угрозу рабочие места в США в рамках всемирной конкуренции.
В итоге никто не покинул Асиломар с верным способом предотвращения экономического переворота на руках. „Все, кто делает уверенные предсказания о чём-либо, связанном с будущим или с ИИ, обманывает либо вас, либо себя самого“, – говорит Макафи.
И всё же, исследователи намерены найти ответы. „Люди справляются с проблемами по-разному. Но я ещё не встречал исследователя ИИ, которому всё равно“, – говорит Этциони. „Люди заботятся об этом“. Но они уверены, что ответом не станет предотвращение развития ИИ. Да это и невозможно, на самом-то деле – примерно так же невозможно, как вернуть назад старые рабочие места.
Автор: SLY_G
