Беспокойство по поводу развития технологий Искусственного интеллекта раньше высказали Илон Маск и Стивен Хокинг. Теперь к числу «боязливцев» добавился ещё Билл Гейтс. Свои опасения он высказал во время вчерашней сессии вопросов-ответов с пользователями интернета на форуме Reddit «AmA».
Балл Гейтс дал понять, что разделяет позицию Илона Маска, в соответствии с которой следует очень осторожно работать над созданием умных машин.
«Я принадлежу к лагерю тех, кто озабочен возникновением суперинтеллекта. Сначала машины будут делать для нас много полезной работы и не будут обладать суперинтеллектом. Это будет позитивным явлением, если мы нормально управляем процессом. Однако, через несколько десятилетий ИИ станет достаточно сильным, чтобы вызвать беспокойство. Я согласен с Илоном Маском и другими на этот счёт и не понимаю, почему некоторые люди не чувствуют такого же беспокойства».
В интервью Backchannel на прошлой неделе Билл Гейтс пояснил, что не пытается притормозить научно-технический прогресс, а всего лишь хочет привлечь внимание к двум потенциальным проблемам.
- ИИ начинает выполнять работу, к которой привыкли люди («работа, которая важна для вас и придаёт смысл жизни»).
- Сильный ИИ может эволюционировать в состояние, «конфликтующее с целями человеческих систем».
Недавно Илон Маск выделил $10 млн на научные исследования систем безопасности для ИИ.
Нужно отметить, что Гейтс и Маск причастны к бизнесу ИТ, который должен выиграть от внедрения технологий ИИ. Но даже они выражают беспокойство.
Для дальнейшего изучения проблемы можно рекомендовать книгу Ника Бострома «Суперинтеллект». Кстати, и Илон Маск упоминал её раньше.
Автор: alizar
