В предыдущей статье мы описали прошлое и настоящее искусственного интеллекта – как выглядит ИИ сегодня, разницу между сильным и слабым ИИ, ОИИ, и некоторые философские идеи по поводу природы сознания. Слабый ИИ можно встретить где угодно в виде ПО, предназначенного для умного выполнения определённых задач. Итоговая цель – сильный ИИ, и именно настоящий сильный ИИ будет напоминать то, что знакомо нам из популярной фантастики.
Обобщённый ИИ – современная цель, которой многие исследователи посвящают сегодня свои карьеры. У ОИИ не обязательно должно быть какое-то сознание, но он должен справиться с любой задачей, связанной с данными, которую мы перед ним поставим. Конечно, в природе людей есть желание предсказывать будущее, и именно этим мы и займёмся в данной статье. Какие наилучшие догадки мы можем сделать по поводу связанных с ИИ ожиданий в ближайшем будущем? Какие этические и практические проблемы могут возникнуть с появлением обладающего сознанием ИИ? В предполагаемом будущем, должен ли ИИ обладать правами, или, например, нужно ли его бояться?
Будущее ИИ
Оптимизм исследователей ИИ по поводу будущего с годами менялся, и даже современные эксперты ведут по этому поводу споры. Тревор Сэндс, исследователь ИИ из Lockheed Martin, осторожен в своих оценках:
С появления ОИИ как концепции, исследователи и оптимисты, утверждают, что его осталось ждать недолго, всего несколько десятков лет. Лично я считаю, что мы увидим появление ОИИ в ближайшие 50 лет, поскольку железо подтянулось до уровня теории, и всё больше организаций видят потенциал в ИИ. ОИИ – естественное завершение существующих попыток исследования ИИ.
За это время может появиться даже разумный ИИ, как говорит Альберт (ещё один исследователь ИИ, попросивший нас упоминать его только по псевдониму):
Надеюсь, что увижу его ещё при жизни. По крайней мере, надеюсь увидеть машины, достаточно умные для того, чтобы люди спорили, обладают ли они сознанием. А что это означает на самом деле – более сложный вопрос. Если разум означает «самосознание», то тогда не так уж сложно представить умную машину, обладающую моделью себя самой.
Сэндс и Альберт считают, что сегодняшние исследования нейросетей и глубинного обучения – это правильный путь, который, скорее всего, приведёт к созданию ОИИ в недалёком будущем. В прошлом исследователи либо фокусировались на амбициозных попытках создания сильного ИИ, либо на ограниченном по сути слабом ИИ. Между ними находится ОИИ, и пока что результат работы нейросетей выглядит плодотворным, и скорее всего, приведёт к ещё большему числу прорывов в ближайшие годы. Большие компании, в частности, Google, явно считают, что так и будет.
Последствия и этические проблемы сильного ИИ
При каждом обсуждении ИИ всегда возникают две проблемы: как он повлияет на человечество, и как нам к нему относиться? Литературу всегда можно рассматривать как хороший индикатор мыслей и чувств, отражающий настроения людей, и в научной фантастике полно примеров этих проблем. Попытается ли достаточно передовой ИИ устранить человечество, как Skynet? Или ИИ необходимо будет давать права и защиту, во избежание таких проявлений жестокости, какие встречаются в "A.I. Artificial Intelligence"?
Страшный ИИ
В обоих случаях смысл состоит в том, что с созданием настоящего ИИ придёт технологическая сингулярность. Технологическая сингулярность – период экспоненциального роста технологий, происходящий на небольшом временном отрезке. Идея в том, что ИИ сможет улучшать самого себя или производить более передовые ИИ. Так как это будет происходить быстро, кардинальные перемены могут случиться за один день, и в результате появится ИИ гораздо более совершенный, чем тот, что был создан человечеством. Это может означать, что в результате у нас появится сверхумный и недоброжелательный ИИ, или разумный ИИ, достойный обладать правами.
Недоброжелательный ИИ
Что, если этот гипотетический сверхумный ИИ решит, что человечество ему не нравится? Или же мы будем ему безразличны? Нужно ли бояться этой возможности и принимать меры предосторожности? Или же эти страхи – результаты безосновательной паранойи?
Сэндс считает: «ОИИ произведёт революцию, и его применение определи, позитивное это будет влияние, или негативное. Примерно так же расщепление атома можно рассматривать как обоюдоострый меч». Конечно, тут речь идёт только об ОИИ, а не о сильном ИИ. Что насчёт возможности появления разумного сильного ИИ?
Скорее всего, потенциала можно ожидать не от злонамеренного, а от индифферентного ИИ. Альберт рассматривает пример с простой задачей, поставленной ИИ: «Есть такая история, что владелец фабрики по производству скрепок задал ИИ вроде бы простую задачу: максимизацию производства. А затем ОИИ воспользовался своим интеллектом и придумал, как превратить всю планету в скрепки!»
Альберт отметает возможность, описанную в этом смешном мысленном эксперименте: «Вы хотите сказать, что этот ОИИ понимает человеческую речь, сверхумный, но ему недоступны связанные с запросом тонкости? Или, что он не сможет задать уточняющие вопросы, или догадаться, что превращение всех людей в скрепки – это плохая идея?».
То есть, если ИИ достаточно умён для того, чтобы понять и запустить опасный для людей сценарий, он должен быть достаточно умным для того, чтобы понять, что этого делать не стоит. Три закона робототехники Азимова тоже могут сыграть свою роль, хотя остаётся вопрос, можно ли будет реализовать их таким образом, чтобы ИИ не смог их поменять? А что насчёт благополучия самого ИИ?
Права ИИ
На противоположной стороне проблемы стоит вопрос, заслуживает ли ИИ защиты и получения прав? Если бы появился разумный ИИ, можно ли позволять человеку просто отключать его? Как к нему относиться? Права животных и сейчас очень спорные, и пока что нет согласия в том, обладают ли животные сознанием или разумом.
По-видимому, те же споры развернутся по поводу существ с ИИ. Будет ли рабством заставлять ИИ работать день и ночь на благо человечества? Должны ли мы платить ему за услуги? Что с этой оплатой будет делать ИИ?
Фильм плохой, идея хорошая
Маловероятно, что у нас в ближайшее время появятся ответы на эти вопросы, в особенности, ответы, устраивающие всех. «Как мы можем гарантировать, что у ИИ, сравнимого с человеком, будут такие же права, как у человека? Учитывая, что эта интеллектуальная система фундаментально отличается от человека, как мы можем определить фундаментальные права ИИ? Кроме того, если считать ИИ искусственной формой жизни, есть ли у нас право отнимать у него эту жизнь (отключать)? До того, как создать ОИИ, необходимо серьёзно продумать вопросы этики», – говорит Сэндс.
В то время, как продолжается исследование ИИ, эти и другие этические вопросы, несомненно, будут вызывать споры. Судя по всему, мы ещё довольно далеко от того момента, когда они окажутся актуальными. Но и сейчас уже для их обсуждения организовываются конференции.
Как поучаствовать
Исследование и эксперименты с ИИ традиционно находились в ведении учёных и исследователей из корпоративных лабораторий. Но в последние годы растущая популярность свободной информации и открытого кода распространилась даже на ИИ. Если вам интересно заняться будущим ИИ, для этого есть несколько способов.
Проводить самостоятельные эксперименты с ИИ можно при помощи доступного ПО. У Google есть встроенная в браузер песочница для работы с простейшими нейросетями. Доступны библиотеки по нейросетям с открытым кодом, например, OpenNN и TensorFlow. Их не так-то просто использовать, но целеустремлённые любители хобби могут развернуться на их базе.
Наилучший способ – делать всё, что можно, для продвижения профессиональных исследований. В США это означает пропаганду научных исследований. Исследования ИИ, как и любые научные исследования, зависят от непредвиденных обстоятельств. Если вы верите, что за технологическими инновациями будущее, то помощь в получении финансирования исследований – это достойное занятие.
С годами оптимизм по поводу разработки ИИ колебался. Сейчас мы находимся на пике, но вполне возможно, что это изменится. Но нельзя отрицать, что возможность ИИ подстёгивает воображение публики. Это очевидно, если судить по научной фантастике и другим развлечениям. Сильный ИИ может появиться через пару лет или через пару столетий. Можно быть уверенным только в том, что мы не остановимся на пути к этой цели.
Автор: SLY_G
