Существует пласт опасений, что искусственный интеллект способен стать угрозой существования человечества. При этом речь идет как о сценариях уничтожения в «пепле ядерной войны», так и «серой ассимиляции», что показал фильм «Превосходство». Но, согласно с новым исследованием, большие языковые модели (LLM) могут только следовать инструкциям, не могут самостоятельно развивать новые навыки и по своей сути «контролируемы, предсказуемы и безопасны», что звучит как хорошая новость для нас, мешков с мясом.
Рубрика «сверхинтеллект»
Искусственный интеллект и экзистенциальный кризис
2024-08-19 в 8:12, admin, рубрики: искусственный интеллект, нейросети, превосходство, работа нейросетей, развитие интеллекта, сверхинтеллект, суперкомпьютерУчёные доказали, что сдерживание сверхинтеллекта — невычислимая задача
2021-03-22 в 8:20, admin, рубрики: AI, Блог компании VDSina.ru, будущее здесь, вред человечеству, ИИ, искусственный интеллект, компьютерная симуляция, научная фантастика, Научно-популярное, обезьянья лапка, обучение, проблема вреда, проблема остановки, программирование этики, сверхинтеллект, Сверхразум, сдерживание ИИ, тезис Чёрча-Тьюринга, три закона робототехники
Обучение искусственного сверхинтеллекта
Идея сверхинтеллекта не даёт покоя учёным. Некоторые высказывают предположение, что сверхинтеллект не обязан благоприятно относиться к людям, может быть к ним равнодушен, не учитывать их интересы. Что делать в такой ситуации? Точнее, как её предотвратить?
Один из вариантов — контролировать действия сверхинтеллекта, разрешая только такие действия, которые идут на благо человечества. К сожалению, теперь выясняется, что это невозможно. Оказалось, что сдерживание сверхинтеллекта — невычислимая задача.
Читать полностью »
Сверхинтеллект: идея, не дающая покоя умным людям
2018-12-12 в 7:00, admin, рубрики: алармизм, иион, искусственный интеллект, киборги заполонили планету, научная фантастика, Научно-популярное, Ник Бостром, паника, сверхинтеллект, терминатор
Расшифровка выступления на конференции Web Camp Zagreb Мачея Цегловского, американского веб-разработчика, предпринимателя, докладчика и социального критика польского происхождения.
В 1945 году, когда американские физики готовились к испытанию атомной бомбы, кому-то пришло в голову спросить, не может ли такое испытание зажечь атмосферу.
Опасение было оправданным. Азот, из которого состоит большая часть атмосферы, энергетически нестабилен. Если столкнуть два атома достаточно сильно, они превратятся в атом магния, альфа-частицу и выпустят огромную энергию:
N14 + N14 ⇒ Mg24 + α + 17,7 МэВ
Жизненно важным вопросом было то, может ли эта реакция стать самоподдерживающейся. Температура внутри шара ядерного взрыва должна была превысить всё, что когда-то наблюдалось на Земле. Не получится ли, что мы бросим спичку в кучу сухих листьев?
Читать полностью »
Культ карго для ИИ: миф о сверхчеловеческом искусственном интеллекте
2017-05-19 в 10:34, admin, рубрики: будущее здесь, ии общего назначения, искусственный интеллект, сверхинтеллект, Сверхразум, слава роботам, метки: сверхразум
Я слышал, что в будущем компьютерные ИИ станут настолько умнее нас, что отнимут у нас все рабочие места и ресурсы, а люди вымрут. Так ли это?
Это самый частый вопрос, который мне задают на моих выступлениях по поводу ИИ. Задающие его люди искренне волнуются, и их беспокойство происходит от других людей – экспертов, задающихся тем же самым вопросом. Среди них можно встретить умнейших из живущих сегодня людей – это, к примеру, Стивен Хокинг, Илон Маск, Макс Тегмарк, Сэм Харрис и Билл Гейтс, – и все они верят в возможность такого сценария. На недавней конференции, посвящённой проблемам ИИ, комитет из девяти наиболее сведущих в области ИИ людей согласился, что скорого появления сверхчеловеческого ИИ нам не избежать.
Читать полностью »