Часто это просто модное название компьютерной программы
В научной фантастике возможность угрозы со стороны искусственного интеллекта (ИИ) связана с взаимоотношениями людей и разумных машин. Будь то Терминаторы, Сайлоны или такие вспомогательные машины, как компьютер из «Звёздного пути» или дроиды из «Звёздных войн», машины заслуженно называют искусственным интеллектом, когда те становятся разумными – или, по меньшей мере, осознают себя достаточно, чтобы действовать мастерски, неожиданно и по собственному желанию.
Что же можно сказать о текущем взрыве «якобы ИИ» в СМИ, индустрии и технологиях? В некоторых случаях назвать нечто «ИИ» в принципе возможно, хотя и с натяжкой. Робомобили не сравнить с R2D2 (или Hal 9000), но у них есть набор датчиков, данных и вычислительные возможности для выполнения сложной задачи вождения автомобиля. В большинстве случаев системы, заявленные, как ИИ, не осознают себя, не разумны, не обладают волей и не могут удивлять. Это просто программы.
Примеры неправомерного использования термина «ИИ» можно встретить где угодно. Google спонсирует систему, определяющую неподобающие комментарии – алгоритм с машинный обучением Perspective. Но оказывается, что его можно обмануть простыми опечатками. ИИ должен укрепить границу США, но на поверку он оказывается всего лишь сетью из датчиков и автоматами с сомнительными возможностями по составлению профиля человека. Точно так же "ИИ для большого тенниса" оказывается всего лишь улучшенным датчиком, использующим коммерчески доступное компьютерное зрение. Facebook рассказывает о разработке ИИ, способного определять суицидальные настроения по размещённым записям, но если присмотреться, это оказывается не более, чем фильтр с отслеживанием слов и последовательностей, отмечающий посты для их последующего рассмотрения людьми.
Чудеса ИИ превозносятся не только в техническом секторе. Coca-Cola собирается использовать «ИИ-боты» для «быстрого собирания рекламных материалов на коленке» – что бы сие ни значило. Схожие попытки заставить ИИ создавать музыку или писать новости на первый взгляд выглядели многообещающе – но ИИ-боты, пытавшиеся исправлять в Википедии опечатки и ссылки, застревали в бесконечных циклах. Согласно консультационной фирме Botanalytics, занимающейся вопросами взаимодействия людей и ботов (нет, правда!), 40% собеседников прекращают попытки общения с ботами после первого раза. Может, это потому, что боты – всего лишь обычные системы типа "нажмите Х, чтобы узнать Y" в модной упаковке, или же хитро автоматизированная игра Mad Libs [настольная игра с пропущенными в тексте словами, куда нужно вставить случайные слова и затем прочесть её вслух, угорая от абсурдности – прим. перев.].
ИИ – это когда компьютеры действуют, как в кино
ИИ стал модной темой для корпоративных стратегий. Экономист из Bloomberg Intelligence, Майкл Макдона [Michael McDonough] отслеживает упоминания «ИИ» в транскрипциях публичных обсуждениях финансовых результатов работы компаний [earnings calls], и отмечает большой всплеск количества упоминаний в последние пару лет. Компании похваляются неназываемыми покупками в сфере ИИ. Отчёт Global Human Capital Trends от Deloitte Touche Tohmatsu Limited [международной сети компаний, оказывающих услуги в области консалтинга и аудита – прим. перев.] 2017 года утверждает, что ИИ уже произвёл «революцию» в жизни и образе людей – но без указаний конкретики. Тем не менее, в заключении отчёта указано, что ИИ заставляет лидеров корпораций «заново обдумывать некоторые из основных своих структур».
В СМИ и в общении простейшие возможности иногда раздуваются до чудес ИИ. В прошлом месяце Twitter объявил об обновлении, помогающем защищать пользователей от низкопробных и оскорбительных твитов. Всё обновление сводится к простому обновлению системы, скрывающей записи от заблокированных, заглушенных или новых учётных записей, а также к добавлению неких не упоминаемых фильтров содержимого. И всё равно, такие изменения, заключающиеся в чём-то не сильно более сложном, чем дополнительные условия в запросах к базам данных, описываются, как «постоянная работа компании над тем, чтобы сделать ИИ умнее».
Я попросил моего коллегу из Georgia Tech, Чарльза Избела, исследователя ИИ, высказаться по поводу значения термина «ИИ». Он сразу же ответил: «Это когда компьютеры действуют, как в кино». Звучит несерьёзно, но подчёркивает присущую ИИ связь с теориями когнитивизма и разума. Лейтенант-командер Дейта порождает вопросы по поводу того, какие свойства и возможности делают существо разумным и обладающим моралью – как и робомобили. Фильтр содержимого, прячущий записи в сосцсетях, сделанные с учётных записей без аватарок? Это не то. Это просто ПО.
Избел считает, что систему можно назвать ИИ, если у неё есть по меньшей мере две особенности. Во-первых, она должна обучаться в ответ на изменения окружения. Вымышленные роботы и киборги делают это незаметно, благодаря волшебству абстракции рассказа. Но даже простейшая система с машинным обучением, типа динамического оптимизатора от Netflix, старающегося улучшить качество сжатого видео, принимает данные от зрителей-людей и использует их для тренировки алгоритма, который затем делает выбор, связанный со следующими передачами видео.
Второй признак настоящего ИИ: то, чему он обучается, должно быть достаточно интересным, чтобы этому было сложно научиться людям. Это разделяет ИИ и простую компьютерную автоматизацию. Робот, заменяющий людей-рабочих на сборке автомобилей – это не ИИ, а просто машина, запрограммированная на автоматическое повторение работы. Для Избела, машина или компьютер с настоящим ИИ демонстрировали бы самоуправление, вели бы себя неожиданно и нестандартно.
ИИ может напомнить творцам и пользователям, что сегодняшние компьютерные системы не представляют собой что-то особенное
Нытьё по поводу несбывшихся достижений ИИ, возможно, покажется вам неважным. Если сегмент машин, оснащённых датчиками и подкреплённых данными, будет расти, возможно, людям будет полезно отслеживать эволюцию этих технологий. Но опыт подсказывает, что к вычислительным достижениям нужно относиться с подозрением. Я уже говорил, что слово «алгоритм» превратилось в культурный фетиш, в мирской, технический эквивалент божественного. Неразборчивое использование термина представляет обычное, не лишённое недостатков, ПО в виде ложного идола. С ИИ та же история. Как пишет автор ботов Алисон Пэриш, «когда кто-то говорит об ИИ, он имеет в виду компьютерную программу, написанную кем-либо».
В блоге MIT Technology Review специалист по информатике из Стэнфорда Джерри Каплан пишет нечто похожее: «ИИ – это сказочка, сделанная на скорую руку из несовместимых инструментов и технологий». Специалисты по ИИ, судя по всему, соглашаются с ним, называя эту область «фрагментированной и по большей части неуправляемой». В связи с нелогичностью использования термина ИИ, Каплан предлагает заменить его на «антропные вычисления» – это программы, которые должны вести себя, как люди, или взаимодействовать с ними. С его точки зрения, мифическая сущность ИИ, включающая наследие, пришедшее из повестей, кино и телевидения, делает этот термин страшилкой, от которой хочется избавиться, а не будущим, на которое хочется надеяться.
Каплану вторят не последние люди. Когда математик Алан Тьюринг случайно придумал идею машинного интеллекта почти 70 лет назад, он предположил, что машины станут умными, когда они смогут притвориться людьми и обмануть таким образом реальных людей. В 1950-х эта идея не казалось реальной. И хотя мысленный тест Тьюринга не ограничивался компьютерами, тогда машины, способные проводить относительно простые вычисления, всё ещё занимали целые комнаты.
Сегодня же машины постоянно обманывают людей. Не обязательно притворяясь людьми, но убеждая последних, что они представляют собой достаточно хорошие альтернативы другим инструментам. Twitter, Facebook и Google – это не улучшенный версии городских ратуш, центров сбора соседей, библиотек или газет – это другие виды этих предприятий, управляемые компьютерами, со своими достоинствами и недостатками. Последствия этих и других сервисов необходимо оценивать с точки зрения того, что они – всего лишь определённые реализации ПО в рамках корпораций, а не тотемы потустороннего ИИ.
В этом смысле Каплан может оказаться прав: отказ от термина может стать наилучшим способом изгнания его дьявольского влияния на современную культуру. Но более традиционный подход Избела – то, что ИИ – это машины, обучающиеся, и действующие сообразно изученному – тоже имеет свои преимущества. Защищая свой возвышенный статус в традиции научной фантастики, ИИ может напомнить создателям и пользователям простую правду: сегодняшние компьютерные системы не представляют собой что-то особенное. Это всего лишь инструменты, изготовленные людьми, выполняющие программы, изготовленные людьми, обладающие свойствами и недостатками и того, и другого.
Автор: SLY_G
