Об опасности искусственного интеллекта много говорят и пишут. Есть те, кто считает, что ИИ никогда не будет вредить по той либо иной причине (хотя бы потому, что искусственный разум будет подчиняться трем законам робототехники).
Но есть и те, кто считает, что человек может стать жертвой технологической сигнулярности, а искусственный интеллект — опасен. Недавно Стивен Хокинг, один из величайших умов нашего времени, назвал искусственный интеллект величайшей ошибкой человечества. Похоже, что примерно так считает и небезызвестный Илон Маск.
Выяснилось это в пятницу, когда автор термина «виртуальная реальность» Джарон Ланье открыл дисскуссию об ИИ. Его идеи стали обсуждать многие ученые, писатели, инженеры и бизнесмены. Среди прочих был опубликован и комментарий от Илона Маска, где он прогнозирует риск появления «чего-то очень опасного в пределах 5-10 лет». Под «чем-то опасным» подразумевается опасный для человека искусственный разум.
Через несколько минут Маск (или его отдел по работе со СМИ) стер комментарий, но его успели заскринить:
Маск считает, что сейчас успехи специалистов, работающих над созданием ИИ, чрезвычайно заметны, дело двигается очень быстро, и уже через несколько лет мы можем увидеть реальный искусственный интеллект. И этот разум может быть вовсе не дружелюбным в отношении человеку. Маск надеется на то, что создатели ИИ смогут его контролировать, и не дать плохим парням (в смысле, цифровому суперразуму) убежать в Интернет.
Кстати, не так давно Маск назвал искусственный интеллект «созданным человеком демоном».
Мнение маска ставит его в положение человека, который не только пытается прогнозировать будущее, но и старается предусмотреть различные варианты опасностей, которые могут встретиться на пути развивающегося человечества. И одной из таких опасностей вполне может быть ИИ.
Пресс-секретарь Илона Маска пообещал в письме к Mashable, что вскоре Маск опубликует более подробное мнение об искусственном интеллекте. Будем ждать.
Кстати, здесь нельзя не вспомнить НФ рассказ, в котором человечество расселилось по Галактике, и каждая планета создала по суперкомпьютеру. После было решено объединить все супермашины в единую сеть. После того, как это было сделано, руководитель проекта спросил машину: «Есть ли бог?». И машина ответила ему «Теперь есть». После этого с чистого и ясного неба ударила молния, запаяв рычаг во включенном положении. Заодно молния убила и оператора, который пытался выключить систему.
Время написания рассказа — 1954 год. Похоже, фантасты, как всегда — впереди планеты всей.
Автор: marks
