Многие лидеры технологической отрасли согласны, что технология искусственного интеллекта однажды может представлять экзистенциальную угрозу человечеству. Центр безопасности ИИ (The Centre for AI Safety) опубликовал открытое письмо, которое подписали более 350 руководителей, исследователей и инженеров, работающих в области искусственного интеллекта.
«Снижение риска исчезновения человечества из-за ИИ должно стать глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война», — говорится в письме.
Среди подписавших соглашение были топ-менеджеры ведущих ИИ-компаний — генеральный директор OpenAI Сэм Альтман, исполнительный директор Google DeepMind Демис Хассабис и исполнительный директор Anthropic Дарио Амодеи. Список состоит из ведущих исследователей, которых считают «крестными отцами» современного движения ИИ, включая Джеффри Хинтона и Йошуа Бенжио.
Заявление было сделано на фоне растущей обеспокоенности по поводу потенциального вреда искусственного интеллекта. Недавно запущенные чат-боты на основе ИИ усилили опасения, что ИИ вскоре может быть использован для распространения дезинформации и пропаганды или сокращения множества рабочих мест в ближайшем будущем.
Американо-бразильский исследователь Бен Герцель, ведущий специалисты по искусственному интеллекту, заявил, что ИИ может заменить 80% человеческих рабочих мест в ближайшие годы.
Белый дом даже планировал встретиться с высшим руководством Google, Microsoft, OpenAI и Anthropic в начале этого месяца, чтобы обсудить перспективы и риски искусственного интеллекта.
Правительство Великобритании также пригласило руководителей некоторых из крупнейших в мире компаний, занимающихся искусственным интеллектом, на встречу в мае этого года, поскольку премьер-министр Риши Сунак разработал политику управления рисками и преимуществами технологии ИИ.
